Normal Computing
Normal Computing
51 – 200 Dipendenti
Le informazioni disponibili sul profilo identificano Normal Computing come un'azienda fondata nel 2022, ma non descrivono i suoi prodotti, servizi, settore o contesto di assunzione. Servono maggiori dettagli specifici sull'azienda per offrire una presentazione utile a chi cerca lavoro.

Ingegnere frontend del compilatore, architetture LLM

Estendi il supporto del compilatore alle architetture LLM emergenti, dalle varianti di attenzione e dal routing MoE alla quantizzazione e ai formati numerici. Convalida l’avvio dei modelli su simulatori e prototipi FPGA per l’hardware IA in-memory di Normal Computing.

Descrizione

  • Estendi il supporto frontend e di livello intermedio del compilatore alle architetture LLM emergenti.
  • Implementa varianti di attenzione, schemi di routing MoE e altre architetture nel compilatore.
  • Amplia l’IR, le operazioni e i passaggi di lowering per rappresentare accuratamente le nuove primitive architetturali.
  • Mantieni la copertura dei test man mano che il compilatore evolve.
  • Rappresenta gli schemi di quantizzazione e i formati numerici preservando l’accuratezza del modello.
  • Segui gli sviluppi nelle architetture LLM e suggerisci le priorità per il futuro supporto del compilatore.
  • Passa i programmi dopo il lowering agli ingegneri dei compilatori backend per la mappatura sull’hardware.
  • Collabora con l’ingegnere di serving LLM per portare i modelli dal supporto del compilatore al serving.
  • Convalida l’avvio del compilatore con simulatori e prototipi FPGA prima che il silicio sia disponibile.

Requisiti

  • Esperienza pratica nello sviluppo e nel rilascio di passaggi di compilatore per il ML.
  • Ottima familiarità con i componenti interni di PyTorch, idealmente inclusi TorchDynamo, FX e torch.export.
  • Conoscenza operativa delle moderne architetture LLM, inclusi meccanismi di attenzione, routing MoE e schemi di quantizzazione.
  • A proprio agio nel progettare infrastrutture di compilazione in una nuova codebase e nell’estenderne una già esistente.
  • A proprio agio nello sviluppo di software per hardware in evoluzione, dalla simulazione all’avvio.
  • Ottima conoscenza di Python.
  • Familiarità con C++ o Rust.
  • L’esperienza con IREE, XLA o TVM è un plus.
  • La familiarità con JAX o ONNX è un plus.
  • L’esperienza nel partizionamento dei modelli tra dispositivi con parallelismo tensoriale, pipeline o degli esperti è un plus.
  • L’esperienza nella co-progettazione hardware-software è un plus.
  • L’esperienza con piattaforme hardware non standard o di calcolo in memoria è un plus.
  • Contributi a progetti open source di compilatori o infrastrutture ML sono un plus.

Benefit

  • Attività vicine alla ricerca, con la possibilità di pubblicare a nome di Normal Computing.
  • Lavoro su hardware pre-silicio con simulatori e prototipi FPGA.
  • Ambiente di lavoro inclusivo con un impegno per le pari opportunità di impiego.
  • Sono disponibili accomodamenti ragionevoli per le persone con disabilità.

Offerte correlate

Commure

Ingegnere senior del software per l’IA applicata

Commure

Crea automazioni del ciclo dei ricavi basate su LLM per la piattaforma di IA sanitaria di Commure. Sviluppa sistemi affidabili per richieste di rimborso, pagamenti, dinieghi, ricorsi ed estrazione di documenti.

Apri
Commure

Ingegnere software senior, intelligenza dei sinistri

Commure

Sviluppa l’infrastruttura di sinistri sanitari di Commure basata sull’IA, con integrazioni con le clearinghouse e pipeline EDI. Crea sistemi di instradamento dell’idoneità e regole scalabili per il ciclo dei ricavi.

Apri
Nubank

Senior lead software engineer, piattaforma backend

Nubank
5001 – 10.000 Dipendenti
FintechServizi bancari

Guida lo sviluppo di servizi backend distribuiti e API per la piattaforma finanziaria globale di Nubank. Assumi la responsabilità di sistemi interni affidabili che supportano i team di prodotto in tutta l’organizzazione.

Apri
OpenAI

Ingegnere software, infrastruttura delle identità

OpenAI

Progetta e gestisce proxy di accesso sicuri e scalabili e servizi di identità per la piattaforma di ricerca e distribuzione di OpenAI. Porta i sistemi distribuiti dalla progettazione alla produzione.

Apri