Normal Computing
Normal Computing
51 – 200 Dipendenti
Le informazioni disponibili sul profilo identificano Normal Computing come un'azienda fondata nel 2022, ma non descrivono i suoi prodotti, servizi, settore o contesto di assunzione. Servono maggiori dettagli specifici sull'azienda per offrire una presentazione utile a chi cerca lavoro.

Ingegnere runtime per hardware di IA

Progetta il software runtime per l’hardware di IA basato sulla memoria di Normal Computing. Guida l’architettura, l’astrazione hardware e le prestazioni di inferenza degli LLM.

Descrizione

  • Guida l’architettura runtime per la gestione dei dispositivi, l’allocazione della memoria, i trasferimenti tra host e dispositivo, il caricamento degli eseguibili e l’invio dei comandi.
  • Sviluppa il runtime per simulatori e prototipi FPGA tramite un’interfaccia coerente, prima che il silicio sia disponibile.
  • Astrae le differenze hardware tra simulatori, prototipi FPGA, silicio e generazioni future.
  • Gestisce lo stato del dispositivo memorizzato sull’hardware, inclusi i pesi dei modelli mantenuti residenti tra una richiesta e l’altra.
  • Riduce l’overhead del runtime sul percorso critico di inferenza degli LLM per migliorare la latenza end-to-end e la capacità di elaborazione.
  • Definisce le interfacce con i componenti di compilatore, driver e firmware.
  • Guida l’indirizzo tecnico del runtime e rivede i progetti che ne dipendono.
  • Collabora con gli ingegneri dei compilatori e del serving per definire interfacce efficaci.

Requisiti

  • Esperienza nello sviluppo di runtime, driver o livelli di astrazione hardware per acceleratori o altri hardware specializzati.
  • Ottime competenze di programmazione di sistemi in C++ o Rust, inclusi gestione della memoria, concorrenza e prestazioni di basso livello.
  • Comprovata esperienza nella gestione di un componente di sistemi complesso, dalla progettazione alla produzione.
  • Esperienza nel guidare decisioni tecniche tra team.
  • Conoscenza dei carichi di lavoro di inferenza degli LLM e delle esigenze dei runtime.
  • A proprio agio nello sviluppo di software per hardware in evoluzione, dalla simulazione alla messa in funzione.
  • Costituisce un titolo preferenziale la familiarità con progetti di runtime aperti, come HAL di IREE, o con i meccanismi interni dei runtime CUDA o ROCm.
  • Costituisce un titolo preferenziale l’esperienza con il calcolo in memoria o altri hardware non von Neumann.
  • Costituisce un titolo preferenziale l’esperienza nell’integrazione di un runtime con un server di inferenza come vLLM.
  • Costituiscono un titolo preferenziale i contributi a runtime open source o a infrastrutture di sistemi.

Benefit

  • Partecipazione azionaria.
  • Incentivi legati alle prestazioni.
  • Pacchetto retributivo completo.
  • Benefit pensati per sostenere il benessere e la crescita professionale dei dipendenti.
  • Retribuzione competitiva ed equa.
  • Adeguamenti ragionevoli per i dipendenti con disabilità.

Offerte correlate

Oklo Inc

Ingegnere di sicurezza nucleare, analisi di criticità per la fabbricazione del combustibile

Oklo Inc

Sviluppa analisi di criticità e controlli di sicurezza per gli impianti avanzati di fabbricazione del combustibile di Oklo. Supporta le autorizzazioni, la messa in servizio e lo sviluppo dell’energia pulita da fissione.

Apri
SuperAnnotate

Ingegnere del recruiting, automazione del recruiting con IA

SuperAnnotate

Sviluppa processi di ricerca, selezione e automazione del recruiting con IA per il team di esperti di dati umani di SuperAnnotate. Gestisci flussi di lavoro scalabili, integrazioni, analisi e sistemi di contatto con i candidati.

Apri
Provectus

Ingegnere associato Forward Deployed presso Provectus (ibrido)

Provectus

Aiuta i clienti di Provectus a usare Claude, sistemi agentici e flussi di lavoro di IA in produzione. Scopri come operano i team dei clienti e fornisci soluzioni valutate su AWS.

Apri
Arcadis

Geologo, scienziato o ingegnere ambientale — San Luis Obispo

Arcadis

Unisciti ad Arcadis in un ruolo di primo livello e contribuisci a progetti di bonifica sostenibile e ingegneria. Le attività comprendono indagini sul campo, supervisione dei sistemi di trattamento, analisi dei dati e risposta alle emergenze.

Apri