Az NVIDIA gyorsított számítástechnikai és mesterségesintelligencia-technológiákat fejleszt, amelyeket a játékok, az adatközpontok, a felhőalapú számítástechnika, az egészségügy, a gyártás, az autóipar és a robotika területén használnak. Tevékenysége kiterjed a grafikus feldolgozóegységekre, a mesterségesintelligencia-platformokra, a szimulációra és az iparágakra szabott megoldásokra. Ezek közé tartozik az együttműködésen alapuló 3D-munkafolyamatokat támogató NVIDIA Omniverse, az autonóm járművek fejlesztésére szolgáló NVIDIA DRIVE, valamint az egészségügyi alkalmazásokhoz készült NVIDIA Clara. A vállalat nagy műszaki csapatokat fog össze, amelyek a fejlett számítástechnikát, szimulációt és mesterséges intelligencián alapuló elemzést támogató infrastruktúrán és szoftvereken dolgoznak.
Senior mélytanulási szoftvermérnök, következtetés
Fejlesszen és hangoljon GPU-gyorsítású szoftvereket az NVIDIA nagy léptékű MI-következtetési feladataihoz. Javítsa a nyílt forráskódú kiszolgálókeretrendszereket és a modellek teljesítményét az NVIDIA gyorsítóin.
Leírás
- Fejlesszen és optimalizáljon GPU-gyorsítású szoftvereket MI-alkalmazásokhoz.
- Fejlesszen és tartson karban nyílt forráskódú keretrendszereket nagy léptékű modellkiszolgáláshoz és következtetéshez.
- Fejlessze a következtetési platformokat, és támogassa a nyelvi modellek üzembe helyezését és kiszolgálását.
- Valósítson meg új algoritmusokat, amelyeket következtetési keretrendszereken keresztül adnak ki.
- Növelje a fejlett nagy nyelvi modellek és generatív MI-modellek teljesítményét az NVIDIA gyorsítóin.
- Optimalizálja a modellkiszolgáló folyamatokat olyan eszközökkel, mint a CUTLASS, az OAI Triton, az NCCL és a CUDA-kernelek.
- Elemezze és hangolja a mélytanulási modelleket a nagy nyelvi modellek, a multimodális MI és a generatív MI területén.
- Skálázza a modellek teljesítményét különböző architektúrákon és NVIDIA-gyorsítótípusokon.
- Járuljon hozzá funkciókkal és kóddal az NVIDIA következtetési könyvtáraihoz, a vLLM-hez, a SGLanghez, a FlashInferhez és a nagy nyelvi modellekhez készült szoftverekhez.
- Dolgozzon együtt a keretrendszerekkel, az NVIDIA könyvtáraival és a következtetésoptimalizáló megoldásokkal foglalkozó csapatokkal.
Követelmények
- Mesterfokozat, doktori fokozat vagy azzal egyenértékű tapasztalat releváns területen, például számítógép-mérnöki, informatikai, EECS- vagy MI-területen.
- Legalább öt év releváns szoftverfejlesztési tapasztalat.
- Erős C/C++ programozási és szoftvertervezési készségek.
- Az agilis szoftverfejlesztésben szerzett tapasztalat előnyt jelent.
- A Python-ismeret előnyt jelent.
- Előnyt jelent a mélytanulási modellek következtetésének éles környezetben történő betanításában, üzembe helyezésében vagy optimalizálásában szerzett tapasztalat.
- Előnyt jelent a teljesítménymodellezésben, profilozásban, hibakeresésben és kódoptimalizálásban szerzett tapasztalat, illetve a CPU- és GPU-architektúrák ismerete.
- Előnyt jelent a CUDA-val, OAI Tritonnal vagy CUTLASS-szal szerzett GPU-programozási tapasztalat.
- Tapasztalat mélytanulási szoftverprojektekkel, például a PyTorch, a vLLM vagy a SGLang projektben való közreműködés.
- Tapasztalat több GPU közötti kommunikációval, beleértve az NCCL-t vagy az NVSHMEM-et.
Juttatások
- Átfogó juttatási csomag.
- Részvényjuttatás.