NVIDIA розробляє технології прискорених обчислень і штучного інтелекту, які використовуються в ігровій індустрії, центрах обробки даних, хмарних обчисленнях, охороні здоров’я, виробництві, автомобільній галузі та робототехніці. Компанія працює над графічними процесорами, платформами штучного інтелекту, технологіями моделювання та галузевими рішеннями, зокрема NVIDIA Omniverse для спільних робочих процесів із 3D-графікою, NVIDIA DRIVE для розробки автономних транспортних засобів і NVIDIA Clara для медичних застосувань. У компанії працюють великі технічні команди, які створюють інфраструктуру та програмне забезпечення для передових обчислень, моделювання й аналітики на основі штучного інтелекту.
Старший інженер-програміст із глибокого навчання та інференсу
Створюйте й оптимізуйте програмне забезпечення з прискоренням на GPU для масштабного інференсу ШІ в NVIDIA. Удосконалюйте фреймворки з відкритим кодом і продуктивність моделей на прискорювачах NVIDIA.
Опис
- Створюйте й оптимізуйте програмне забезпечення з прискоренням на GPU для застосунків ШІ.
- Розробляйте й підтримуйте фреймворки з відкритим кодом для обслуговування моделей та інференсу у великому масштабі.
- Удосконалюйте платформи інференсу та підтримуйте розгортання й обслуговування мовних моделей.
- Реалізуйте нові алгоритми для випуску у складі фреймворків інференсу.
- Підвищуйте продуктивність передових LLM і генеративних моделей ШІ на прискорювачах NVIDIA.
- Використовуйте CUTLASS, OAI Triton, NCCL і ядра CUDA для оптимізації конвеєрів обслуговування моделей.
- Аналізуйте й налаштовуйте моделі глибокого навчання для LLM, мультимодальних і генеративних задач ШІ.
- Масштабуйте продуктивність моделей для різних архітектур і типів прискорювачів NVIDIA.
- Додавайте функції та код до бібліотек інференсу NVIDIA, vLLM, SGLang, FlashInfer і програмного забезпечення для LLM.
- Співпрацюйте з командами, що працюють над фреймворками, бібліотеками NVIDIA та рішеннями для оптимізації інференсу.
Вимоги
- Ступінь магістра, PhD або відповідний досвід у профільній галузі, як-от комп’ютерна інженерія, інформатика, електротехніка та комп’ютерні науки (EECS) або ШІ.
- Щонайменше п’ять років відповідного досвіду розробки програмного забезпечення.
- Впевнене володіння C/C++ і навички проєктування програмного забезпечення.
- Досвід розробки програмного забезпечення за Agile буде корисним.
- Знання Python буде перевагою.
- Практичний досвід навчання, розгортання або оптимізації інференсу моделей глибокого навчання у production буде перевагою.
- Досвід моделювання продуктивності, профілювання, налагодження й оптимізації коду або знання архітектури CPU та GPU буде перевагою.
- Досвід програмування GPU за допомогою CUDA, OAI Triton або CUTLASS буде перевагою.
- Досвід участі в проєктах із розробки програмного забезпечення для глибокого навчання, як-от PyTorch, vLLM або SGLang.
- Досвід роботи з обміном даними між кількома GPU, зокрема з NCCL або NVSHMEM.
Переваги
- Комплексний пакет пільг.
- Частка в капіталі.