Baseten
Baseten
A Baseten oferece infraestrutura de inferência de modelos para empresas que desenvolvem aplicações de aprendizado de máquina e inteligência artificial. Sua plataforma foi criada para disponibilizar modelos com rapidez e escalabilidade, combinando inferência de alto desempenho, implantação ágil, escalonamento automático, disponibilização segura de modelos para empresas e suporte ao empacotamento de modelos de código aberto. A Baseten ajuda as equipes de engenharia e aprendizado de máquina a gerenciar as demandas operacionais da infraestrutura de modelos para que possam se concentrar no desenvolvimento de modelos específicos para cada domínio. A empresa atua nos setores de inteligência artificial, software como serviço e tecnologia empresarial, com uma equipe de 11 a 50 funcionários.

Gerente de Engenharia, Desempenho de Inferência em GPU na Baseten

Lidere a engenharia de desempenho de inferência em GPU na Baseten, uma empresa de infraestrutura de IA. Oriente a otimização de runtime, a eficiência de modelos e o crescimento de uma equipe técnica especializada.

Descrição

  • Gerenciar, orientar e desenvolver engenheiros de desempenho de inferência por meio de reuniões individuais regulares, feedback, planejamento de carreira e avaliações de desempenho
  • Recrutar engenheiros de GPU e inferência enquanto promove uma cultura de equipe colaborativa
  • Ser responsável pelo roadmap e pela execução do desempenho do runtime
  • Revisar projetos técnicos, conduzir trabalhos de criação de perfis e otimização e ajudar engenheiros a avaliar o uso de tempo e memória
  • Colocar em produção quantização, decodificação especulativa, reutilização de cache KV, prefill em blocos e agendamento personalizado
  • Traduzir ganhos de desempenho em melhorias mensuráveis de tokens por hora de GPU, utilização, latência e custo
  • Levar novas arquiteturas de modelos para hardware emergente e ajustar seu desempenho
  • Colaborar com as equipes de Infraestrutura, Plataforma de Inferência, Kernels, APIs de Modelos e equipes voltadas para clientes para priorizar o trabalho, coordenar lançamentos e entregar melhorias
  • Estabelecer padrões de engenharia para qualidade, benchmarking, excelência operacional e resposta a incidentes
  • Avançar a otimização de inferência agêntica, kernels agênticos, treinamento de modelos com decodificação especulativa e a Baseten Inference Stack

Requisitos

  • Bacharelado, mestrado ou doutorado em ciência da computação, engenharia, matemática ou área relacionada
  • Experiência em gestão, incluindo contratação de engenheiros, mentoria, feedback e avaliações de desempenho
  • Experiência liderando ou apoiando de perto equipes de otimização de GPU em treinamento, inferência ou sistemas de recomendação
  • Conhecimento técnico profundo de cargas de trabalho de GPU, arquitetura e compromissos de desempenho
  • Familiaridade com bibliotecas de machine learning, incluindo PyTorch, TensorRT ou TensorRT-LLM
  • Capacidade comprovada de definir roadmaps e entregar projetos técnicos complexos com uma equipe
  • Excelentes habilidades de comunicação escrita e verbal para alinhar partes interessadas entre equipes
  • Familiaridade com mecanismos de inferência como vLLM, SGLang ou TensorRT-LLM
  • Experiência aplicando métodos de otimização de LLM, como quantização, decodificação especulativa e batching contínuo
  • Experiência desenvolvendo ou trabalhando com kernels de GPU usando CUDA, Triton ou CUTLASS
  • Experiência ampliando uma equipe de engenharia durante o rápido crescimento de uma startup
  • Experiência prática anterior como engenheiro de desempenho ou sistemas antes de assumir uma função de gestão

Benefícios

  • Pacote de remuneração competitivo com participação acionária significativa
  • Para funcionários nos Estados Unidos, cobertura médica, odontológica e oftalmológica completa para funcionários e dependentes
  • Tempo livre remunerado flexível, incluindo uma pausa de inverno para toda a empresa
  • Licença parental remunerada
  • Suporte à fertilidade e à formação de famílias por meio da Carrot
  • Para funcionários nos Estados Unidos, plano 401(k) facilitado pela empresa
  • Oportunidades de trabalhar com diversas startups de machine learning e criar conexões no setor

Vagas relacionadas

Qureight

Gerente sênior de dados clínicos, imagens

Qureight

Lidere a qualidade dos dados de imagens, as transferências para patrocinadores e os testes de aceitação do usuário na plataforma de ensaios clínicos com IA da Qureight. Supervisione o controle de qualidade DICOM e os processos de dados clínicos, apoiando também os membros mais juniores da equipe.

Abrir
MSD

Cientista Principal Sênior de Pesquisa Clínica em Câncer de Mama

MSD

Lidere pesquisas clínicas e programas de desenvolvimento de medicamentos voltados ao câncer de mama na Merck. Planeje estudos, avalie resultados e oriente o desenvolvimento oncológico entre diferentes áreas.

Abrir