STN Incorporated
STN Incorporated
11 – 50 Funcionários
CibersegurançaEmpresaHardware
A STN Incorporated oferece serviços gerenciados de TI e infraestrutura em nuvem para empresas e equipes que desenvolvem softwares, sistemas de IA e robótica essenciais para os negócios. Seus serviços incluem nuvens privadas de CPU, infraestrutura de IA com GPU One, redes e armazenamento seguros, além de operações contínuas em nuvem, com suporte humano 24 horas por dia, 7 dias por semana, e acordos de nível de serviço com alta disponibilidade. A empresa também cuida de operações de cibersegurança e resposta a incidentes, conformidade e gestão de riscos, backup e recuperação, além da aquisição de tecnologia e da gestão de seu ciclo de vida. A STN atende empresas SaaS, desenvolvedores de IA e de modelos, empresas de robótica e organizações reguladas, incluindo prestadores de serviços de saúde, com infraestrutura projetada para apoiar a preparação para auditorias e frameworks como SOC 2 Tipo II e HIPAA.

Líder sênior de otimização de cargas de inferência

Lidera o ajuste de desempenho de GPUs para cargas de IA de clientes na plataforma autônoma de data centers da STN. Transforma conhecimento de otimização em correções executáveis por agentes e supervisiona o serviço interno de modelos.

Descrição

  • Analisa as cargas de treinamento e inferência dos clientes para localizar gargalos de desempenho em carregamento de dados, comunicação coletiva, largura de banda da memória, kernels, batching e paralelismo.
  • Define referências de desempenho para cada geração de hardware, começando pelos sistemas NVIDIA atuais.
  • Transforma o conhecimento de otimização em correções que agentes podem aplicar nos clusters dos clientes.
  • Ajusta cargas de trabalho com clientes que têm capacidade contratada, diretamente ou por meio das equipes operacionais deles.
  • Como responsabilidade secundária, gerencia o serviço interno de modelos, incluindo roteamento que considera custo e latência e migrações entre versões de modelos.
  • Orienta a alocação de GPUs entre a inferência interna e as cargas de trabalho dos clientes.

Requisitos

  • Tem sólida experiência em engenharia de desempenho de GPUs, incluindo criação de perfis, comportamento da memória e da largura de banda e compreensão em nível de kernel.
  • Tem conhecimento prático de stacks de serving como vLLM, SGLang ou TensorRT-LLM, incluindo batching, gerenciamento de cache KV e compensações da quantização.
  • Tem experiência com treinamento e inferência distribuídos em escala, incluindo paralelismo de tensores, de pipeline e de dados.
  • Tem experiência em ajustar comunicação coletiva, como NCCL.
  • Tem domínio de ferramentas de criação de perfis, como Nsight, DCGM e profilers em nível de framework.
  • Consegue explicar aos clientes os resultados de desempenho e codificar soluções para um agente.
  • Diferenciais: desenvolvimento de kernels CUDA, implantação de modelos de pesos abertos em grande escala, criação de benchmarks e experiência técnica anterior em contato com clientes.

Vagas relacionadas

Gramian Consulting

Especialista em pesquisa e avaliação de conversas com IA

Gramian Consulting

A Gramian Consulting está contratando uma pessoa avaliadora de conversas com IA para melhorar a qualidade das recomendações de IA. A função usa análise qualitativa estruturada para avaliar situações interpessoais e identificar contextos ausentes.

Abrir
Gartner

Diretor sênior de gestão de dados para viabilização de IA

Gartner

Na Gartner, você oferecerá pesquisas e orientação executiva sobre plataformas de gestão de dados e viabilização de IA. Aconselhará líderes empresariais por meio de análises, apresentações e interações com clientes.

Abrir
CDW

Engenheiro consultor de infraestrutura de IA, computação e armazenamento

CDW

Projeta e valida soluções de computação com GPU e armazenamento de alto desempenho para cargas de trabalho empresariais de IA e aprendizado de máquina. Ajuda os clientes da CDW a implementar infraestrutura para treinamento, ajuste fino e inferência de IA.

Abrir
Salesforce

Líder sênior de inovação em IA para ciências da vida

Salesforce

Lidera a estratégia de entrega de IA da Salesforce para ciências da vida, desenvolvendo recursos reutilizáveis e impulsionando a transformação dos clientes. Orienta uma equipe global de produto, engenharia e serviços profissionais.

Abrir