NVIDIA razvija tehnologije ubrzanog računalstva i umjetne inteligencije koje se koriste u igrama, podatkovnim centrima, računalstvu u oblaku, zdravstvu, proizvodnji, automobilskoj industriji i robotici. Njezin rad obuhvaća grafičke procesorske jedinice, platforme umjetne inteligencije, simulacije i rješenja usmjerena na pojedine industrije, uključujući NVIDIA Omniverse za suradničke 3D radne procese, NVIDIA DRIVE za razvoj autonomnih vozila i NVIDIA Clara za zdravstvene aplikacije. Tvrtka okuplja velike tehničke timove koji rade na infrastrukturi i softveru za napredno računalstvo, simulacije i analitiku pokretanu umjetnom inteligencijom.
Viši softverski inženjer za duboko učenje i izvođenje modela
Razvijajte i optimizirajte softver ubrzan GPU-om za izvođenje umjetne inteligencije u velikom opsegu u tvrtki NVIDIA. Unaprjeđujte otvorene okvire za posluživanje modela i njihove performanse na NVIDIA akceleratorima.
Opis
- Razvijajte i optimizirajte softver ubrzan GPU-om za aplikacije umjetne inteligencije.
- Razvijajte i održavajte otvorene okvire za posluživanje i izvođenje velikih modela.
- Unaprjeđujte platforme za izvođenje te podržavajte implementaciju i posluživanje jezičnih modela.
- Implementirajte nove algoritme za objavu putem okvira za izvođenje modela.
- Povećavajte performanse naprednih velikih jezičnih modela i generativne umjetne inteligencije na NVIDIA akceleratorima.
- Primjenjujte alate kao što su CUTLASS, OAI Triton, NCCL i CUDA jezgre za optimizaciju procesa posluživanja modela.
- Analizirajte i optimizirajte modele dubokog učenja za velike jezične modele, multimodalnu i generativnu umjetnu inteligenciju.
- Skalirajte performanse modela na različitim arhitekturama i vrstama NVIDIA akceleratora.
- Doprinosite značajkama i kodom NVIDIA bibliotekama za izvođenje, projektima vLLM, SGLang i FlashInfer te softveru za velike jezične modele.
- Surađujte s timovima koji rade na okvirima, NVIDIA bibliotekama i rješenjima za optimizaciju izvođenja.
Zahtjevi
- Magisterij, doktorat ili jednakovrijedno iskustvo u relevantnom području, primjerice računalnom inženjerstvu, računarstvu, elektrotehnici i računarstvu ili umjetnoj inteligenciji.
- Najmanje pet godina relevantnog iskustva u razvoju softvera.
- Izvrsno poznavanje programiranja u jezicima C/C++ i dizajna softvera.
- Iskustvo u agilnom razvoju softvera prednost je.
- Poznavanje Pythona prednost je.
- Iskustvo u produkciji s treniranjem, implementacijom ili optimizacijom izvođenja modela dubokog učenja prednost je.
- Iskustvo s modeliranjem performansi, profiliranjem, otklanjanjem pogrešaka i optimizacijom koda ili poznavanje CPU i GPU arhitektura prednost je.
- Iskustvo s programiranjem GPU-a u alatima CUDA, OAI Triton ili CUTLASS prednost je.
- Iskustvo s doprinosom softverskim projektima dubokog učenja kao što su PyTorch, vLLM ili SGLang.
- Iskustvo s komunikacijom između više GPU-ova, uključujući NCCL ili NVSHMEM.
Pogodnosti
- Sveobuhvatan paket pogodnosti.
- Vlasnički udio.