51 – 200 Dipendenti
Le informazioni disponibili sul profilo identificano Normal Computing come un'azienda fondata nel 2022, ma non descrivono i suoi prodotti, servizi, settore o contesto di assunzione. Servono maggiori dettagli specifici sull'azienda per offrire una presentazione utile a chi cerca lavoro.
Ingegnere di ricerca in algoritmi per hardware di inferenza LLM
Sviluppa algoritmi di inferenza LLM per l’hardware di IA in memoria di Normal Computing. Collabora con i team hardware e architettura alla progettazione congiunta di metodi numerici, benchmark e prototipi.
Descrizione
- Sviluppa algoritmi per carichi di lavoro di inferenza LLM su hardware in memoria.
- Collabora con i team hardware e architettura alla progettazione congiunta di software e hardware.
- Crea metodi numerici che sfruttano il rumore termico e la dinamica analogica.
- Realizza framework di valutazione e benchmark per simulazioni e hardware fisico.
- Trasforma le conoscenze sui carichi di lavoro dei modelli in vincoli e opportunità di progettazione hardware.
- Prototipa e perfeziona gli algoritmi man mano che l’hardware passa dalla simulazione al silicio.
- Migliora le prestazioni sia a livello di porte logiche sia a livello algoritmico.
- Testa gli algoritmi con simulatori, prototipi FPGA e silicio non appena disponibile.
Requisiti
- Conoscenza approfondita dell’inferenza di modelli di grandi dimensioni, inclusi meccanismi di attenzione, cache KV, decodifica a contesto lungo e limiti della larghezza di banda della memoria.
- Esperienza nel migliorare l’inferenza con tecniche come quantizzazione, sparsità, fusione dei kernel o attenzione efficiente in termini di memoria.
- Familiarità con sistemi stocastici, metodi probabilistici, analisi numerica o calcolo analogico.
- Esperienza nell’implementazione di algoritmi vicino all’hardware, senza affidarsi esclusivamente a framework di alto livello.
- Capacità di ragionare dai principi fondamentali su nuove piattaforme di calcolo.
- Comprovata capacità di portare le idee dalla teoria all’implementazione su hardware reale.
- Ottima conoscenza di Python e padronanza di almeno un linguaggio di programmazione di sistema.
- Capacità di collaborare con team hardware, architettura e software.
- Il dottorato in apprendimento automatico, matematica applicata, fisica, ingegneria elettrica o un campo correlato costituisce un titolo preferenziale.
- L’esperienza con sistemi analogici o a segnale misto, calcolo in memoria o architetture non von Neumann costituisce un titolo preferenziale.
- L’esperienza di lavoro su hardware ancora in fase di sviluppo al momento dell’ingresso costituisce un titolo preferenziale.
- Pubblicazioni o contributi open source su inferenza efficiente, algoritmi stocastici o nuove forme di calcolo costituiscono un titolo preferenziale.
Benefit
- Un ambiente di lavoro inclusivo e impegnato nella diversità.
- Adeguamenti ragionevoli per le persone con disabilità.
- Tutele per le pari opportunità di lavoro.
Offerte correlate
Nessuna offerta di lavoro trovata
Prova a modificare o cancellare i filtri per trovare altre opportunità.