Hewlett Packard Enterprise
Hewlett Packard Enterprise
A Hewlett Packard Enterprise desenvolve tecnologia empresarial para organizações que operam com nuvem híbrida e operações orientadas por inteligência artificial. Seu portfólio inclui os servidores HPE ProLiant e a computação de alto desempenho HPE Cray, o armazenamento HPE Alletra, as redes HPE Aruba, plataformas de IA e fábricas de IA prontas para uso, além das soluções como serviço do GreenLake. A HPE também oferece recursos de segurança, como Zero Trust e SASE, além de serviços profissionais, de consultoria e de suporte que ajudam grandes organizações a modernizar a infraestrutura, gerenciar ambientes de data centers e implementar IA em grande escala.

Engenheiro(a) sênior de software de inferência na HPE Hybrid

Lidere o desenvolvimento do runtime empresarial de inferência de LLM do HPE AI Essentials para infraestruturas próprias dos clientes. Aprimore o serving eficiente em GPU, a execução distribuída e a orquestração com Kubernetes.

Descrição

  • Assuma a responsabilidade pelos principais componentes da implantação de serving de LLM, incluindo integração do mecanismo, batching contínuo, gerenciamento e reutilização do cache KV e execução quantizada.
  • Trabalhe com equipes de engenharia de inferência para reduzir o tempo até o primeiro token, a latência entre tokens, o throughput da GPU e a latência de cauda P95/P99.
  • Desenvolva e opere recursos de execução distribuída, como prefill e decode desagregados, paralelismo de tensores e de pipeline e offload do cache KV entre a memória da GPU, a memória do host e o armazenamento conectado por RDMA.
  • Avalie runtimes emergentes, métodos de quantização, decodificação especulativa e serving de mixture-of-experts, recomendando tecnologias para adoção.
  • Ajude a criar a camada de orquestração que abrange admissão de modelos, agendamento e particionamento de GPUs, roteamento de solicitações orientado por cache e escalabilidade automática.
  • Resolva problemas de clientes de ponta a ponta, determine as causas raiz e fortaleça os sistemas e processos relacionados.
  • Revise código e projetos, faça mentoria de colegas e promova boas práticas de engenharia.

Requisitos

  • Pelo menos 8 anos de experiência em engenharia de software.
  • Um a dois anos ou mais de experiência direta com runtimes de inferência de LLM ou serving de modelos em produção.
  • Graduação em ciência da computação ou área relacionada.
  • Familiaridade com mecanismos de inferência de LLM, como vLLM, SGLang, TensorRT-LLM, TGI ou NVIDIA NIM, incluindo experiência com modificações nos componentes internos do mecanismo.
  • Conhecimento sólido de batching contínuo, paged attention, reutilização do cache KV e cache de prefixos, prefill em blocos, quantização e decodificação especulativa.
  • Conhecimento prático de paralelismo de tensores e de pipeline, operações coletivas NCCL, hierarquia de memória de GPU e comportamento das interconexões.
  • Proficiência avançada na arquitetura de plataformas Kubernetes, incluindo operadores, recursos personalizados, controladores e agendamento.
  • Sólidos conhecimentos de programação em Go e Python.
  • Capacidade de ler, depurar e criar perfis de C++ e CUDA com ferramentas como Nsight.
  • Familiaridade com depuração e criação de perfis de cargas de trabalho em várias camadas, incluindo aplicações de RAG e agentes.
  • Excelentes habilidades analíticas, de depuração e resolução de problemas.
  • Diferencial: contribuições para vLLM, SGLang, TensorRT-LLM, llm-d, LMCache ou KServe.
  • Diferencial: experiência com serving de prefill e decode desagregados ou offload e reutilização de cache KV em larga escala.
  • Diferencial: experiência com RDMA, GPUDirect Storage, InfiniBand ou RoCE.
  • Diferencial: experiência com MIG, alocação fracionada de GPU e isolamento de GPU multi-tenant.
  • Diferencial: experiência na entrega de software para ambientes empresariais locais, air-gapped ou regulamentados.

Benefícios

  • Benefícios abrangentes para apoiar a saúde física, a segurança financeira e o bem-estar emocional.
  • Programas de apoio ao crescimento pessoal e profissional.
  • Flexibilidade para modalidades de trabalho e necessidades pessoais.
  • Uma cultura de trabalho inclusiva.
  • Adaptações razoáveis durante o processo de candidatura ou entrevista para candidatos qualificados com deficiência.

Vagas relacionadas

PTC

Arquiteto técnico líder de cloud, Windchill

PTC

Lidere a equipe de arquitetos técnicos de PLM Windchill da PTC na EMEA e oriente os clientes sobre arquitetura em nuvem. Aprimore a confiabilidade dos serviços, os padrões técnicos e as operações em ambientes corporativos.

Abrir
Thompsons Solicitors

Advogado de negligência clínica

Thompsons Solicitors
501 – 1.000 Funcionários
B2CJurídico

Atue em casos complexos de negligência clínica na Thompsons Solicitors, um escritório britânico de direito voltado à justiça social, e oriente advogados juniores. Ajude clientes lesionados a buscar justiça por meio de contencioso de alta qualidade e atendimento cuidadoso.

Abrir
T

Advogado de execuções hipotecárias na Carolina do Norte

Timothy Padgett
11 – 50 Funcionários

Atue em casos de execução hipotecária para o Padgett Law Group, redigindo documentos jurídicos e coordenando a logística dos processos. A função dá suporte a clientes institucionais do setor financeiro e inclui preparação para mediações, audiências e leilões do xerife.

Abrir
T

Advogado de falências da Louisiana — remoto

Timothy Padgett
11 – 50 Funcionários

Representa credores institucionais em processos de falência na Louisiana, conduzindo audiências, petições, processos e orientações jurídicas. Dá suporte ao Padgett Law Group no cumprimento da jurisprudência e na comunicação ágil com clientes e equipe.

Abrir
T

Advogado de execuções hipotecárias da Louisiana em trabalho remoto

Timothy Padgett
11 – 50 Funcionários

Representa os interesses dos credores em questões de execução hipotecária na Louisiana com o Padgett Law Group. Prepara documentos jurídicos, coordena as atividades dos casos e dá suporte a mediações, audiências judiciais e leilões conduzidos pelo xerife.

Abrir
Travelers

Advogado associado de contencioso

Travelers

Representa segurados da Travelers em litígios de menor complexidade nas áreas de danos materiais e responsabilidade civil, com orientação de advogados seniores. Pesquisa e redige documentos jurídicos, participa de audiências e orienta clientes e parceiros de sinistros sobre a estratégia dos casos.

Abrir