LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Medarbejdere
Sponsor for H1B-visumKunstig intelligensSaaSVirksomhed
Baseten leverer infrastruktur til modelinferens for virksomheder, der implementerer maskinlærings- og AI-applikationer. Platformen er udviklet til hurtig og skalerbar betjening og kombinerer inferens med høj gennemstrømning, hurtig implementering, autoskalering, sikker modelbetjening til virksomheder samt understøttelse af pakning af open source-modeller. Baseten hjælper udviklings- og maskinlæringsteams med at håndtere de operationelle krav til modelinfrastruktur, så de kan fokusere på at udvikle domænespecifikke modeller. Virksomheden arbejder inden for kunstig intelligens, SaaS og virksomhedsteknologi og har et team på 11–50 medarbejdere.
LinkedIn
Job i virksomheden

Engineering Manager for GPU-inferensydelse hos Baseten

Led arbejdet med GPU-inferensydelse hos Baseten, en virksomhed inden for AI-infrastruktur. Stå i spidsen for runtime-optimering, modeleffektivitet og udviklingen af et specialiseret teknisk team.

USUSACACalifornienNYNew York
240.000 $ – 270.000 $ / år
HybridFuldtidMellemniveauSeniorPåkrævet Sprog: engelskIngeniørchef
PyTorch

Beskrivelse

  • Lede, vejlede og udvikle ingeniører inden for inferensydelse gennem regelmæssige en-til-en-samtaler, feedback, karriereplanlægning og præstationsvurderinger
  • Rekruttere GPU- og inferensingeniører og samtidig fremme en samarbejdsorienteret teamkultur
  • Have ansvaret for køreplanen for runtime-ydelse og dens gennemførelse
  • Gennemgå tekniske designs, lede profilerings- og optimeringsarbejde samt hjælpe ingeniører med at vurdere tids- og hukommelsesforbrug
  • Produktionssætte kvantisering, spekulativ afkodning, genbrug af KV-cache, chunked prefill og tilpasset planlægning
  • Omsætte ydelsesforbedringer til målbare forbedringer i tokens pr. GPU-time, udnyttelse, latenstid og omkostninger
  • Flytte nye modelarkitekturer til ny hardware og finjustere deres ydelse
  • Samarbejde med Infrastructure, Inference Platform, Kernels, Model APIs og kundevendte teams om at prioritere arbejde, koordinere lanceringer og levere forbedringer
  • Etablere tekniske standarder for kvalitet, benchmarking, operationel excellence og håndtering af hændelser
  • Fremme agentisk inferensoptimering, agentiske kernels, modeltræning til spekulativ afkodning og Baseten Inference Stack

Krav

  • Bachelor-, master- eller doktorgrad i datalogi, ingeniørvidenskab, matematik eller et beslægtet område
  • Ledelseserfaring med ingeniørrekruttering, mentoring, feedback og præstationsvurderinger
  • Erfaring med at lede eller arbejde tæt sammen med GPU-optimeringsteams inden for træning, inferens eller anbefalingssystemer
  • Dybt teknisk kendskab til GPU-arbejdsbelastninger, arkitektur og afvejninger inden for ydelse
  • Kendskab til maskinlæringsbiblioteker som PyTorch, TensorRT eller TensorRT-LLM
  • Dokumenteret evne til at fastlægge køreplaner og levere komplekse tekniske projekter sammen med et team
  • Stærke skriftlige og mundtlige kommunikationsevner til at skabe fælles retning blandt interessenter på tværs af teams
  • Kendskab til inferensmotorer som vLLM, SGLang eller TensorRT-LLM
  • Erfaring med LLM-optimeringsmetoder som kvantisering, spekulativ afkodning og kontinuerlig batching
  • Erfaring med at udvikle eller arbejde med GPU-kernels ved hjælp af CUDA, Triton eller CUTLASS
  • Erfaring med at skalere et ingeniørteam under hurtig startup-vækst
  • Tidligere praktisk erfaring som performance- eller systemingeniør før overgangen til ledelse

Fordele

  • Konkurrencedygtig kompensationspakke med betydelig aktieandel
  • For medarbejdere i USA: fuld sundheds-, tand- og synsdækning for medarbejdere og deres pårørende
  • Fleksibel betalt frihed, inklusive en fælles vinterpause for hele virksomheden
  • Betalt forældreorlov
  • Støtte til fertilitet og familiedannelse gennem Carrot
  • For medarbejdere i USA: en virksomhedsadministreret 401(k)-ordning
  • Mulighed for at arbejde med en række startups inden for maskinlæring og opbygge brancheforbindelser

Relaterede job

Martin & Company

Direktør for konsulentarbejde inden for skadesforsikring

Martin & Company
51 – 200 Medarbejdere
ForsikringLogistikRådgivning
USUSA
120.000 $ – 150.000 $ / år
FjernarbejdeFuldtidLeadPåkrævet Sprog: engelskDirektør

Led kundevendte konsulentopgaver inden for tings- og ansvarsforsikring hos Martin & Company, et teknologibaseret forsikringsrådgivningsfirma. Fastlæg opgavernes omfang, sikr kvaliteten, udvikl kundekonti, og mentorér konsulenter.

Åbn
General Dynamics Information Technology

Vicepræsident og generaldirektør for flåden og marinekorpset

General Dynamics Information Technology
Sponsor for H1B-visumLogistikRådgivningSundhedsvæsen
USUSASCSouth CarolinaVAVirginia
279.718 $ – 345.000 $ / år
På arbejdspladsenFuldtidLeadPåkrævet Sprog: engelskViceadministrerende direktør
Cloud

Lede GDIT’s teknologitjenesteportefølje for flåden og marinekorpset med en årlig omsætning på over 700 millioner dollar. Fastlægge forretningsstrategi, føre tilsyn med økonomiske resultater og leverancer samt skabe vækst på tværs af forsvarsprogrammer.

Åbn
Blizzard Entertainment

Associeret direktør for international markedsføringsstrategi og planlægning

Blizzard Entertainment
1.001 – 5.000 Medarbejdere
E-handelGamingSaaS
USUSACACalifornien
126.800 $ – 234.580 $ / år
HybridFuldtidSeniorPåkrævet Sprog: engelskMarketingdirektør

Led Blizzards internationale markedsføringsstrategi for spil, investeringsprioriteringer og vækstplanlægning. Udarbejd finansielle modeller, markedsrammer og anbefalinger til ledelsens beslutninger.

Åbn