NVIDIA разрабатывает технологии ускоренных вычислений и искусственного интеллекта, которые применяются в игровой индустрии, центрах обработки данных, облачных вычислениях, здравоохранении, производстве, автомобильной отрасли и робототехнике. Компания работает над графическими процессорами, платформами искусственного интеллекта, технологиями симуляции и отраслевыми решениями, включая NVIDIA Omniverse для совместных рабочих процессов с 3D-графикой, NVIDIA DRIVE для разработки автономных транспортных средств и NVIDIA Clara для медицинских приложений. В компании работают крупные технические команды, создающие инфраструктуру и программное обеспечение для передовых вычислений, симуляций и аналитики на основе искусственного интеллекта.
Старший инженер-программист по глубокому обучению и инференсу
Создавайте и оптимизируйте ПО с ускорением на GPU для масштабного инференса ИИ в NVIDIA. Улучшайте фреймворки с открытым исходным кодом и производительность моделей на ускорителях NVIDIA.
Описание
- Создавайте и оптимизируйте программное обеспечение с ускорением на GPU для приложений ИИ.
- Разрабатывайте и поддерживайте фреймворки с открытым исходным кодом для обслуживания моделей и инференса в крупном масштабе.
- Совершенствуйте платформы инференса и поддерживайте развертывание и обслуживание языковых моделей.
- Реализуйте новые алгоритмы для выпуска в составе фреймворков инференса.
- Повышайте производительность передовых LLM и генеративных моделей ИИ на ускорителях NVIDIA.
- Используйте CUTLASS, OAI Triton, NCCL и ядра CUDA для оптимизации конвейеров обслуживания моделей.
- Анализируйте и настраивайте модели глубокого обучения для LLM, мультимодальных и генеративных задач ИИ.
- Масштабируйте производительность моделей для разных архитектур и типов ускорителей NVIDIA.
- Вносите функции и код в библиотеки инференса NVIDIA, vLLM, SGLang, FlashInfer и ПО для LLM.
- Сотрудничайте с командами, работающими над фреймворками, библиотеками NVIDIA и решениями для оптимизации инференса.
Требования
- Степень магистра, PhD или сопоставимый опыт в профильной области, например компьютерной инженерии, информатике, электротехнике и компьютерных науках (EECS) или ИИ.
- Не менее пяти лет релевантного опыта разработки ПО.
- Уверенное владение C/C++ и навыки проектирования программного обеспечения.
- Опыт разработки ПО по Agile будет полезен.
- Знание Python будет преимуществом.
- Практический опыт обучения, развертывания или оптимизации инференса моделей глубокого обучения в production будет преимуществом.
- Опыт моделирования производительности, профилирования, отладки и оптимизации кода либо знание архитектуры CPU и GPU будет преимуществом.
- Опыт программирования GPU с CUDA, OAI Triton или CUTLASS будет преимуществом.
- Опыт участия в проектах по разработке ПО для глубокого обучения, например PyTorch, vLLM или SGLang.
- Опыт работы с межпроцессным обменом данными между несколькими GPU, включая NCCL или NVSHMEM.
Преимущества
- Комплексный пакет льгот.
- Долевое участие.