A NVIDIA desenvolve tecnologias de computação acelerada e inteligência artificial usadas em jogos, data centers, computação em nuvem, saúde, manufatura, setor automotivo e robótica. Seu trabalho abrange unidades de processamento gráfico, plataformas de IA, simulação e soluções voltadas para diferentes setores, incluindo o NVIDIA Omniverse para fluxos de trabalho colaborativos em 3D, o NVIDIA DRIVE para o desenvolvimento de veículos autônomos e o NVIDIA Clara para aplicações na área da saúde. A empresa reúne grandes equipes técnicas que trabalham na infraestrutura e no software que dão suporte à computação avançada, à simulação e à análise orientada por IA.
Engenheiro(a) sênior de software de aprendizado profundo para inferência
Desenvolva e otimize software acelerado por GPU para inferência de IA em larga escala na NVIDIA. Aprimore frameworks de serving de código aberto e o desempenho de modelos em aceleradores NVIDIA.
Descrição
- Desenvolva e otimize software acelerado por GPU para aplicações de IA.
- Desenvolva e mantenha frameworks de código aberto para serving e inferência de modelos em larga escala.
- Aprimore plataformas de inferência e dê suporte à implantação e ao serving de modelos de linguagem.
- Implemente novos algoritmos para lançamento por meio de frameworks de inferência.
- Impulsione ganhos de desempenho para modelos avançados de LLM e IA generativa em aceleradores NVIDIA.
- Use ferramentas como CUTLASS, OAI Triton, NCCL e kernels CUDA para otimizar pipelines de serving de modelos.
- Analise e otimize modelos de aprendizado profundo em LLM, IA multimodal e IA generativa.
- Escale o desempenho de modelos entre arquiteturas e tipos de aceleradores NVIDIA.
- Contribua com funcionalidades e código para bibliotecas de inferência da NVIDIA, vLLM, SGLang, FlashInfer e software de LLM.
- Trabalhe com equipes de frameworks, bibliotecas da NVIDIA e soluções de otimização de inferência.
Requisitos
- Mestrado, doutorado ou experiência equivalente em uma área relevante, como engenharia da computação, ciência da computação, EECS ou IA.
- Pelo menos cinco anos de experiência relevante em desenvolvimento de software.
- Sólidas habilidades de programação em C/C++ e design de software.
- Experiência com desenvolvimento ágil de software é desejável.
- Experiência com Python é um diferencial.
- Experiência em produção com treinamento, implantação ou otimização de inferência de modelos de aprendizado profundo é um diferencial.
- Experiência com modelagem de desempenho, profiling, depuração e otimização de código, ou conhecimento de arquitetura de CPU e GPU, é um diferencial.
- Experiência em programação de GPU com CUDA, OAI Triton ou CUTLASS é um diferencial.
- Experiência contribuindo para projetos de software de aprendizado profundo, como PyTorch, vLLM ou SGLang.
- Experiência com comunicação entre várias GPUs, incluindo NCCL ou NVSHMEM.
Benefícios
- Pacote abrangente de benefícios.
- Participação acionária.