NVIDIA разработва технологии за ускорени изчисления и изкуствен интелект, които се използват в игрите, центровете за данни, облачните изчисления, здравеопазването, производството, автомобилната индустрия и роботиката. Дейността на компанията обхваща графични процесори, платформи за изкуствен интелект, симулации и решения, насочени към конкретни индустрии, включително NVIDIA Omniverse за съвместни 3D работни процеси, NVIDIA DRIVE за разработване на автономни превозни средства и NVIDIA Clara за приложения в здравеопазването. Компанията обединява големи технически екипи, които работят по инфраструктурата и софтуера, поддържащи модерни изчисления, симулации и анализи, базирани на изкуствен интелект.
Старши софтуерен инженер по дълбоко обучение и инференция
Разработвайте и настройвайте ускорен с GPU софтуер за мащабна инференция на изкуствен интелект в NVIDIA. Подобрявайте рамки с отворен код за обслужване на модели и тяхната производителност върху ускорители NVIDIA.
Описание
- Разработвайте и оптимизирайте ускорен с GPU софтуер за приложения с изкуствен интелект.
- Разработвайте и поддържайте рамки с отворен код за обслужване и инференция на мащабни модели.
- Подобрете платформите за инференция и подпомагайте внедряването и обслужването на езикови модели.
- Реализирайте нови алгоритми за пускане чрез рамки за инференция.
- Повишавайте производителността на усъвършенствани големи езикови модели и генеративен изкуствен интелект върху ускорители NVIDIA.
- Използвайте инструменти като CUTLASS, OAI Triton, NCCL и CUDA ядра за оптимизиране на работните потоци за обслужване на модели.
- Анализирайте и настройвайте модели за дълбоко обучение в областта на големите езикови модели, мултимодалния и генеративния изкуствен интелект.
- Мащабирайте производителността на моделите между различни архитектури и типове ускорители NVIDIA.
- Допринасяйте с функционалности и код за библиотеките на NVIDIA за инференция, vLLM, SGLang, FlashInfer и софтуера за големи езикови модели.
- Работете с екипи, занимаващи се с рамки, библиотеки на NVIDIA и решения за оптимизация на инференцията.
Изисквания
- Магистърска степен, докторска степен или равностоен опит в подходяща област, например компютърно инженерство, информатика, електротехника и компютърни науки или изкуствен интелект.
- Най-малко пет години подходящ професионален опит в разработката на софтуер.
- Отлични умения за програмиране на C/C++ и проектиране на софтуер.
- Опитът с гъвкава разработка на софтуер е предимство.
- Опитът с Python е предимство.
- Опит в производствена среда с обучение, внедряване или оптимизиране на инференция на модели за дълбоко обучение е предимство.
- Опитът с моделиране на производителността, профилиране, отстраняване на грешки и оптимизиране на код или познанията за архитектури на CPU и GPU са предимство.
- Опитът с програмиране на GPU чрез CUDA, OAI Triton или CUTLASS е предимство.
- Опит с принос към софтуерни проекти за дълбоко обучение като PyTorch, vLLM или SGLang.
- Опит с комуникация между няколко GPU, включително NCCL или NVSHMEM.
Придобивки
- Пакет от цялостни придобивки.
- Дялово участие.