NVIDIA sviluppa tecnologie di calcolo accelerato e intelligenza artificiale utilizzate nei videogiochi, nei data center, nel cloud computing, nell’assistenza sanitaria, nella produzione, nel settore automobilistico e nella robotica. Le sue attività comprendono unità di elaborazione grafica, piattaforme di IA, simulazione e soluzioni specifiche per diversi settori, tra cui NVIDIA Omniverse per flussi di lavoro collaborativi in 3D, NVIDIA DRIVE per lo sviluppo di veicoli autonomi e NVIDIA Clara per le applicazioni sanitarie. L’azienda riunisce grandi team tecnici impegnati nello sviluppo dell’infrastruttura e del software che supportano il calcolo avanzato, la simulazione e l’analisi basata sull’IA.
Ingegnere senior del software per l’inferenza di deep learning
Sviluppa e ottimizza software accelerato da GPU per l’inferenza IA su larga scala in NVIDIA. Migliora framework open source per il serving e le prestazioni dei modelli sugli acceleratori NVIDIA.
Descrizione
- Sviluppa e ottimizza software accelerato da GPU per applicazioni di IA.
- Sviluppa e gestisce framework open source per il serving e l’inferenza di modelli su larga scala.
- Migliora le piattaforme di inferenza e supporta la distribuzione e il serving di modelli linguistici.
- Implementa nuovi algoritmi da distribuire tramite framework di inferenza.
- Migliora le prestazioni di modelli avanzati di LLM e IA generativa sugli acceleratori NVIDIA.
- Utilizza strumenti come CUTLASS, OAI Triton, NCCL e kernel CUDA per ottimizzare le pipeline di serving dei modelli.
- Analizza e ottimizza modelli di deep learning in ambito LLM, IA multimodale e IA generativa.
- Escale le prestazioni dei modelli tra architetture e tipi di acceleratori NVIDIA.
- Contribuisci con funzionalità e codice alle librerie di inferenza NVIDIA, a vLLM, SGLang, FlashInfer e ai software per LLM.
- Collabora con i team che si occupano di framework, librerie NVIDIA e soluzioni per l’ottimizzazione dell’inferenza.
Requisiti
- Laurea magistrale, dottorato o esperienza equivalente in un ambito pertinente, come ingegneria informatica, informatica, EECS o IA.
- Almeno cinque anni di esperienza pertinente nello sviluppo software.
- Ottime capacità di programmazione in C/C++ e di progettazione software.
- È gradita esperienza nello sviluppo software agile.
- La conoscenza di Python costituisce un titolo preferenziale.
- È preferibile avere esperienza in produzione nell’addestramento, nella distribuzione o nell’ottimizzazione dell’inferenza di modelli di deep learning.
- È preferibile avere esperienza nella modellazione delle prestazioni, nel profiling, nel debugging e nell’ottimizzazione del codice, oppure conoscere le architetture CPU e GPU.
- È preferibile avere esperienza di programmazione GPU con CUDA, OAI Triton o CUTLASS.
- Esperienza di contributo a progetti software di deep learning come PyTorch, vLLM o SGLang.
- Esperienza con le comunicazioni multi-GPU, incluse NCCL o NVSHMEM.
Benefit
- Pacchetto completo di benefit.
- Partecipazione azionaria.