NVIDIA vyvíja technológie akcelerovaných výpočtov a umelej inteligencie, ktoré sa využívajú v hernom priemysle, dátových centrách, cloud computingu, zdravotníctve, výrobe, automobilovom priemysle a robotike. Jej činnosť zahŕňa grafické procesorové jednotky, platformy umelej inteligencie, simulácie a riešenia zamerané na konkrétne odvetvia vrátane NVIDIA Omniverse pre kolaboratívne 3D pracovné postupy, NVIDIA DRIVE na vývoj autonómnych vozidiel a NVIDIA Clara pre zdravotnícke aplikácie. Spoločnosť spája veľké technické tímy, ktoré pracujú na infraštruktúre a softvéri podporujúcich pokročilé výpočty, simulácie a analytiku založenú na umelej inteligencii.
Senior softvérový inžinier pre hlboké učenie a inferenciu
Vyvíjajte a dolaďujte softvér s akceleráciou GPU na inferenciu umelej inteligencie vo veľkom rozsahu v spoločnosti NVIDIA. Vylepšujte open-source obslužné frameworky a výkon modelov na akcelerátoroch NVIDIA.
Popis
- Vyvíjajte a optimalizujte softvér s akceleráciou GPU pre aplikácie umelej inteligencie.
- Vyvíjajte a udržiavajte open-source frameworky na obsluhu a inferenciu rozsiahlych modelov.
- Vylepšujte inferenčné platformy a podporujte nasadzovanie a obsluhu jazykových modelov.
- Implementujte nové algoritmy určené na vydanie prostredníctvom inferenčných frameworkov.
- Zvyšujte výkon pokročilých veľkých jazykových modelov a modelov generatívnej umelej inteligencie na akcelerátoroch NVIDIA.
- Využívajte nástroje ako CUTLASS, OAI Triton, NCCL a jadrá CUDA na optimalizáciu procesov obsluhy modelov.
- Analyzujte a dolaďujte modely hlbokého učenia pre veľké jazykové modely, multimodálnu a generatívnu umelú inteligenciu.
- Škálujte výkon modelov naprieč architektúrami a typmi akcelerátorov NVIDIA.
- Prispievajte funkciami a kódom do inferenčných knižníc NVIDIA, vLLM, SGLang, FlashInfer a softvéru pre veľké jazykové modely.
- Spolupracujte s tímami zameranými na frameworky, knižnice NVIDIA a riešenia na optimalizáciu inferencie.
Požiadavky
- Magisterský titul, doktorát alebo rovnocenné skúsenosti v relevantnom odbore, napríklad počítačové inžinierstvo, informatika, elektrotechnika a informatika alebo umelá inteligencia.
- Aspoň päť rokov relevantných skúseností s vývojom softvéru.
- Pokročilé zručnosti v programovaní v jazyku C/C++ a návrhu softvéru.
- Skúsenosti s agilným vývojom softvéru sú výhodou.
- Znalosť jazyka Python je výhodou.
- Skúsenosti z produkčného prostredia s trénovaním, nasadzovaním alebo optimalizáciou inferencie modelov hlbokého učenia sú výhodou.
- Skúsenosti s modelovaním výkonu, profilovaním, ladením a optimalizáciou kódu alebo znalosť architektúr CPU a GPU sú výhodou.
- Skúsenosti s programovaním GPU pomocou CUDA, OAI Triton alebo CUTLASS sú výhodou.
- Skúsenosti s prispievaním do softvérových projektov hlbokého učenia, ako sú PyTorch, vLLM alebo SGLang.
- Skúsenosti s komunikáciou medzi viacerými GPU vrátane NCCL alebo NVSHMEM.
Benefity
- Komplexný balík zamestnaneckých výhod.
- Podielové akcie.