LogoFresh Jobs Ahead
Hewlett Packard Enterprise
Hewlett Packard Enterprise
Sponsor for H1B-visumForetakKunstig intelligensMaskinvare
Hewlett Packard Enterprise utvikler bedriftsteknologi for organisasjoner som driver hybrid­skyløsninger og AI-drevne virksomheter. Produktporteføljen omfatter HPE ProLiant-servere og HPE Cray-databehandling med høy ytelse, HPE Alletra-lagring, HPE Aruba-nettverk, AI-plattformer og komplette AI-fabrikker samt GreenLake-løsninger som tjeneste. HPE tilbyr også sikkerhetsfunksjoner som Zero Trust og SASE, i tillegg til profesjonelle tjenester, rådgivning og support som hjelper store organisasjoner med å modernisere infrastrukturen, administrere datasentermiljøer og ta i bruk AI i stor skala.
LinkedIn
Jobber i bedriften

Senior programvareingeniør for inferens hos HPE Hybrid

Led utviklingen av HPE AI Essentials' bedriftsplattform for LLM-inferens på kundeeid infrastruktur. Forbedre GPU-effektiv serving, distribuert kjøring og Kubernetes-orkestrering.

USUSACOColoradoNCNord-CarolinaTXTexas
137 000 $ – 315 000 $ / år
HybridHeltidSeniorPåkrevd Språk: engelskFullstackingeniørProgramvareingeniør
C++GoKubernetesPython

Beskrivelse

  • Ha ansvar for sentrale komponenter i utrullingen av LLM-serving, inkludert motorintegrasjon, kontinuerlig batching, håndtering og gjenbruk av KV-cache samt kvantisert kjøring.
  • Samarbeide med team innen inferensutvikling for å redusere tiden til første token, latenstiden mellom token, GPU-gjennomstrømningen samt hale-latenstid ved P95/P99.
  • Utvikle og drifte funksjoner for distribuert kjøring, som disaggregerte prefill- og decode-faser, tensor- og pipeline-parallellisme samt avlasting av KV-cache på tvers av GPU-minne, vertsminne og RDMA-tilkoblet lagring.
  • Vurdere nye runtime-miljøer, kvantiseringsmetoder, spekulativ dekoding og serving av mixture-of-experts, og anbefale teknologier for innføring.
  • Bidra til å bygge orkestreringslaget for modellopptak, GPU-planlegging og partisjonering, cache-bevisst ruting av forespørsler samt autoskalering.
  • Løse kundeproblemer fra start til slutt, finne rotårsaker og styrke relaterte systemer og prosesser.
  • Gjennomgå kode og design, veilede kolleger og gå foran med god ingeniørpraksis.

Krav

  • Minst 8 års erfaring med programvareutvikling.
  • Minst ett til to års direkte erfaring med runtime-miljøer for LLM-inferens eller modell-serving i produksjon.
  • Utdanning innen informatikk eller et beslektet fagområde.
  • Kjennskap til LLM-inferensmotorer som vLLM, SGLang, TensorRT-LLM, TGI eller NVIDIA NIM, inkludert erfaring med å endre interne motorkomponenter.
  • Solid kunnskap om kontinuerlig batching, paged attention, gjenbruk av KV-cache og prefix-caching, chunked prefill, kvantisering og spekulativ dekoding.
  • Praktisk kunnskap om tensor- og pipeline-parallellisme, kollektive NCCL-operasjoner, GPU-minnehierarki og oppførsel i forbindelser mellom komponenter.
  • Avansert kompetanse innen Kubernetes-plattformarkitektur, inkludert operators, custom resources, controllers og planlegging.
  • Gode programmeringsferdigheter i Go og Python.
  • Evne til å lese, feilsøke og profilere C++ og CUDA med verktøy som Nsight.
  • Kjennskap til feilsøking og profilering av arbeidsbelastninger i flere lag, inkludert RAG- og agentapplikasjoner.
  • Svært gode analytiske evner samt sterke ferdigheter innen feilsøking og problemløsning.
  • Foretrukket: Bidrag til vLLM, SGLang, TensorRT-LLM, llm-d, LMCache eller KServe.
  • Foretrukket: Erfaring med serving med disaggregerte prefill- og decode-faser eller storskalaavlasting og gjenbruk av KV-cache.
  • Foretrukket: Erfaring med RDMA, GPUDirect Storage, InfiniBand eller RoCE.
  • Foretrukket: Erfaring med MIG, fraksjonert GPU-allokering og GPU-isolering for flere leietakere.
  • Foretrukket: Erfaring med å levere programvare for lokale, luftgapede eller regulerte bedriftsmiljøer.

Fordeler

  • Omfattende fordeler som støtter fysisk helse, økonomisk trygghet og emosjonelt velvære.
  • Programmer som støtter personlig og faglig utvikling.
  • Fleksibilitet for arbeidsordninger og personlige behov.
  • En inkluderende arbeidskultur.
  • Rimelig tilrettelegging under søknads- eller intervjuprosessen for kvalifiserte søkere med funksjonsnedsettelser.

Relaterte jobber

Hewlett Packard Enterprise

Senior teknisk arkitekt for kanalpresales, lagring – HPE Canada, fjernarbeid

Hewlett Packard Enterprise
Sponsor for H1B-visumForetakKunstig intelligensMaskinvare
CACanada
139 000 $ – 223 000 $ / år
FjernarbeidHeltidMellomnivåSeniorPåkrevd Språk: engelskPresalesingeniør
AWSAzureMS SQL ServerOracleSkySQLVMware

Hjelp HPEs kanalpartnere med å posisjonere, utforme og selge løsninger for lagring og databeskyttelse. Bidra med løsningsarkitektur, demonstrasjoner, konseptutprøving, pipelineutvikling og teknisk rådgivning til partnere.

Åpne
Hewlett Packard Enterprise

Teknisk presalesarkitekt for kanaler, Canada

Hewlett Packard Enterprise
Sponsor for H1B-visumForetakKunstig intelligensMaskinvare
CACanada
111 200 $ – 178 400 $ / år
FjernarbeidHeltidMellomnivåSeniorPåkrevd Språk: engelskPresalesingeniør
AWSAzureMS SQL ServerOracleSkySQLVMware

Veiled HPEs kanalpartnere i å posisjonere, utforme og levere løsninger for lagring og databeskyttelse. Bygg partnernes tekniske kompetanse, utvikle salgsmuligheter og bidra til konkurransedyktige gevinster.

Åpne
Hewlett Packard Enterprise

Senior skyingeniør innen nettverksdrift (Secret-sikkerhetsklarering)

Hewlett Packard Enterprise
Sponsor for H1B-visumForetakKunstig intelligensMaskinvare
USUSAOKOklahomaPAPennsylvaniaUTUtah
109 000 $ – 251 000 $ / år
HybridHeltidSeniorLeadPåkrevd Språk: engelskDevOps-ingeniør
AnsibleAWSBrannmurerCybersikkerhetDNSLinuxPythonServiceNowSkySvitsjingTCP/IPTerraformUnixVMware

Drift HPEs sikre private sky- og datasenternettverk for føderale kunder. Feilsøk klassifisert infrastruktur og VMware NSX i Oklahoma, Pennsylvania og Utah.

Åpne
General Dynamics Information Technology

Senior Azure Cloud Data Engineer

General Dynamics Information Technology
Sponsor for H1B-visumHelsevesenLogistikkRådgivning
USUSA
85 093 $ – 115 000 $ / år
FjernarbeidHeltidMellomnivåSeniorPåkrevd Språk: engelskSkyingeniør
.NETAzureETLPySparkPythonSkySparkSQLTerraform

Moderniser Indian Health Services kliniske journaler ved å bygge datapipelines i Azure og skalerbare datamodeller for helsetjenesten. Utvikle ETL-arbeidsflyter og PySpark-transformasjoner for helsedata i stor skala.

Åpne
Hewlett Packard Enterprise

Senioringeniør innen nettverksdrift og sky (sikkerhetsklarering)

Hewlett Packard Enterprise
Sponsor for H1B-visumForetakKunstig intelligensMaskinvare
USUSAOKOklahomaPAPennsylvaniaUTUtah
109 000 $ – 251 000 $ / år
HybridHeltidSeniorLeadPåkrevd Språk: engelskDevOps-ingeniør
BrannmurerDNSITSMServiceNowSkyTCP/IPVMware

Drift og sikre Hewlett Packard Enterprises private skynettverk for offentlige kunder. Feilsøk klassifisert infrastruktur, VMware NSX, ServiceNow-endringer og virksomhetskritisk tilkobling.

Åpne