NVIDIA vyvíjí technologie akcelerovaných výpočtů a umělé inteligence, které se využívají v herním průmyslu, datových centrech, cloud computingu, zdravotnictví, výrobě, automobilovém průmyslu a robotice. Společnost pracuje na grafických procesorech, platformách umělé inteligence, simulačních technologiích a řešeních zaměřených na jednotlivá odvětví, včetně NVIDIA Omniverse pro spolupráci na 3D projektech, NVIDIA DRIVE pro vývoj autonomních vozidel a NVIDIA Clara pro zdravotnické aplikace. NVIDIA sdružuje rozsáhlé technické týmy, které vytvářejí infrastrukturu a software pro pokročilé výpočty, simulace a analytiku využívající umělou inteligenci.
Seniorní softwarový inženýr pro hluboké učení a inferenci
Vyvíjejte a optimalizujte software s akcelerací GPU pro rozsáhlou inferenci AI ve společnosti NVIDIA. Zlepšujte open source frameworky a výkon modelů na akcelerátorech NVIDIA.
Popis
- Vyvíjejte a optimalizujte software s akcelerací GPU pro aplikace AI.
- Vyvíjejte a udržujte open source frameworky pro obsluhu modelů a inferenci ve velkém měřítku.
- Vylepšujte inferenční platformy a podporujte nasazování a obsluhu jazykových modelů.
- Implementujte nové algoritmy, které budou vydávány prostřednictvím inferenčních frameworků.
- Zvyšujte výkon pokročilých LLM a modelů generativní AI na akcelerátorech NVIDIA.
- Využívejte nástroje jako CUTLASS, OAI Triton, NCCL a jádra CUDA k optimalizaci pipeline pro obsluhu modelů.
- Analyzujte a dolaďujte modely hlubokého učení pro LLM, multimodální a generativní AI.
- Škálujte výkon modelů napříč architekturami a typy akcelerátorů NVIDIA.
- Přispívejte funkcemi a kódem do inferenčních knihoven NVIDIA, vLLM, SGLang, FlashInfer a softwaru pro LLM.
- Spolupracujte s týmy zaměřenými na frameworky, knihovny NVIDIA a řešení pro optimalizaci inference.
Požadavky
- Magisterský titul, PhD nebo odpovídající praxe v relevantním oboru, například počítačové inženýrství, informatika, elektrotechnika a počítačové vědy (EECS) nebo AI.
- Alespoň pět let relevantní praxe ve vývoji softwaru.
- Výborná znalost programování v C/C++ a návrhu softwaru.
- Zkušenosti s agilním vývojem softwaru jsou výhodou.
- Znalost Pythonu je výhodou.
- Praktické zkušenosti s trénováním, nasazováním nebo optimalizací inference modelů hlubokého učení v produkčním prostředí jsou výhodou.
- Zkušenosti s modelováním výkonu, profilováním, laděním a optimalizací kódu nebo znalost architektury CPU a GPU jsou výhodou.
- Zkušenosti s programováním GPU pomocí CUDA, OAI Triton nebo CUTLASS jsou výhodou.
- Zkušenosti s přispíváním do softwarových projektů zaměřených na hluboké učení, jako jsou PyTorch, vLLM nebo SGLang.
- Zkušenosti s komunikací mezi více GPU, včetně NCCL nebo NVSHMEM.
Benefity
- Komplexní balíček zaměstnaneckých výhod.
- Podíl ve společnosti.