NVIDIA hutengeneza teknolojia za kompyuta zenye kasi ya juu na akili bandia zinazotumika katika michezo ya video, vituo vya data, kompyuta za wingu, huduma za afya, utengenezaji, magari na roboti. Kazi yake inahusisha vitengo vya kuchakata michoro, majukwaa ya AI, uigaji na suluhisho zinazolenga sekta mbalimbali, zikiwemo NVIDIA Omniverse kwa ajili ya michakato shirikishi ya 3D, NVIDIA DRIVE kwa ajili ya kutengeneza magari yanayojiendesha, na NVIDIA Clara kwa matumizi ya huduma za afya. Kampuni hii huwakutanisha timu kubwa za kiufundi zinazofanya kazi kwenye miundombinu na programu zinazosaidia kompyuta za hali ya juu, uigaji na uchanganuzi unaoendeshwa na AI.
Mhandisi Mwandamizi wa Programu za Deep Learning, Inferensi
Jenga na boresha programu zinazoharakishwa na GPU kwa inferensi ya AI ya kiwango kikubwa katika NVIDIA. Boresha mifumo huria ya kuhudumia modeli na utendaji wa modeli kwenye vichapuzi vya NVIDIA.
Maelezo
- Jenga na boresha programu zinazoharakishwa na GPU kwa programu za AI.
- Tengeneza na udumishe mifumo huria ya kuhudumia modeli na inferensi ya kiwango kikubwa.
- Boresha majukwaa ya inferensi na kusaidia usambazaji na uhudumiaji wa modeli za lugha.
- Tekeleza algoriti mpya zitakazotolewa kupitia mifumo ya inferensi.
- Ongeza utendaji wa modeli za hali ya juu za LLM na AI zalishi kwenye vichapuzi vya NVIDIA.
- Tumia zana kama CUTLASS, OAI Triton, NCCL na kernel za CUDA kuboresha mabomba ya kuhudumia modeli.
- Changanua na rekebisha modeli za deep learning katika LLM, multimodal na AI zalishi.
- Panua utendaji wa modeli katika usanifu na aina mbalimbali za vichapuzi vya NVIDIA.
- Changia vipengele na msimbo katika maktaba za inferensi za NVIDIA, vLLM, SGLang, FlashInfer na programu za LLM.
- Fanya kazi na timu katika mifumo, maktaba za NVIDIA na suluhisho za uboreshaji wa inferensi.
Mahitaji
- Shahada ya uzamili, PhD au uzoefu unaolingana katika taaluma husika kama uhandisi wa kompyuta, sayansi ya kompyuta, EECS au AI.
- Angalau miaka mitano ya uzoefu husika wa kutengeneza programu.
- Ujuzi imara wa programu za C/C++ na usanifu wa programu.
- Uzoefu wa utengenezaji wa programu kwa mbinu agile ni faida.
- Uzoefu wa Python ni faida.
- Uzoefu wa uzalishaji wa kufundisha, kusambaza au kuboresha inferensi ya modeli za deep learning ni faida.
- Uzoefu wa uundaji wa modeli za utendaji, upimaji wa utendaji, utatuzi wa hitilafu na uboreshaji wa msimbo, au ujuzi wa usanifu wa CPU na GPU, ni faida.
- Uzoefu wa programu za GPU kwa kutumia CUDA, OAI Triton au CUTLASS ni faida.
- Uzoefu wa kuchangia miradi ya programu za deep learning kama PyTorch, vLLM au SGLang.
- Uzoefu wa mawasiliano ya GPU nyingi, ikiwemo NCCL au NVSHMEM.
Manufaa
- Kifurushi kamili cha marupurupu.
- Umiliki wa hisa.