LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Anställda
Sponsor för H1B-visumArtificiell intelligensFöretagSaaS
Baseten tillhandahåller infrastruktur för modellinferens åt företag som distribuerar maskininlärnings- och AI-applikationer. Plattformen är byggd för snabb och skalbar drift och kombinerar inferens med hög genomströmning, snabb driftsättning, autoskalning, säker modellservering för företag samt stöd för paketering av modeller med öppen källkod. Baseten hjälper teknik- och maskininlärningsteam att hantera de operativa kraven på modellinfrastruktur, så att de kan fokusera på att utveckla domänspecifika modeller. Företaget verkar inom artificiell intelligens, SaaS och företagsteknik och har ett team på 11–50 medarbetare.
LinkedIn
Jobb på företaget

Mjukvaruingenjör, LLM-inferensplattform – Baseten hybrid

Bygg Basetens distribuerade LLM-inferensplattform för AI-företag. Arbeta med Kubernetes-orkestrering, modell-API:er, routing, automatisk skalning och observabilitet i produktion.

USUSACAKalifornienNYNew YorkWAWashington
180 000 $ – 360 000 $ / år
HybridHeltidMellannivåSeniorObligatoriskt Språk: engelskaFullstackingenjörMjukvaruingenjör
Distribuerade systemKubernetes

Beskrivning

  • Bygg infrastruktur och orkestrering för storskalig distribuerad LLM-inferens, inklusive routing, automatisk skalning, schemaläggning och hantering av körmiljöer.
  • Utveckla och driftsätt modell-API:er med stöd för strukturerade utdata, verktygs- och funktionsanrop samt multimodal servering.
  • Implementera API-versionering, validering av förfrågningar, användningsmätning, kvoter och autentisering.
  • Skapa instrumentering för mätvärden, spårning och loggar samt repeterbara benchmarktester av hastighet, tillförlitlighet och kvalitet.
  • Definiera gedigna arbetssätt för testning, releaseautomatisering och operationell excellens.
  • Diagnostisera och förstärk produktionssystem inom Kubernetes, distribuerade körmiljöer, nätverk och GPU-arbetsbelastningar.
  • Samarbeta med ingenjörer inom inferensprestanda och partnerteam för att leverera kundnära optimeringar.
  • Leda projekt från arkitektur och driftsättning till övervakning och iteration baserad på kundfeedback.
  • Balansera systemprestanda, tillförlitlighet, operativ enkelhet och utvecklarupplevelse.

Krav

  • Kandidat-, master- eller doktorsexamen i datavetenskap, ingenjörsvetenskap eller ett närliggande område, eller motsvarande praktisk erfarenhet.
  • Minst tre års erfarenhet av att bygga och driftsätta distribuerade system, backendinfrastruktur eller storskaliga API:er där tillförlitlighet, svarstid och skalbarhet är avgörande.
  • Dokumenterad erfarenhet av att ta ansvar för backendtjänster med låg svarstid och hög tillförlitlighet, inklusive hastighetsbegränsning, autentisering, kvoter, mätning och migreringar.
  • Gott infrastrukturellt omdöme, inklusive erfarenhet av profilering, spårning, kapacitetsplanering och hantering av SLO:er.
  • Förmåga att diagnostisera prestanda- och tillförlitlighetsproblem i applikations-, körmiljö- och infrastrukturlager.
  • Starkt fokus på utvecklarupplevelsen.
  • Vilja att lära sig nya språk, ramverk och system samt intresse för inferensutveckling.
  • Utmärkt skriftlig kommunikations- och samarbetsförmåga, inklusive tydlig designdokumentation och effektivt tvärfunktionellt arbete.
  • Erfarenhet av eller bidrag till LLM-inferensmotorer eller ramverk som vLLM, SGLang, TensorRT-LLM, TGI eller Dynamo är meriterande.
  • Djup erfarenhet av Kubernetes, inklusive operatorer och anpassade resurser; kännedom om servicenät eller API-gateways är meriterande.
  • Erfarenhet av distribuerad schemaläggning, automatisk skalning eller tjänsteorkestrering är meriterande.
  • Erfarenhet av att köra GPU-arbetsbelastningar i produktion är meriterande.
  • Bakgrund inom utvecklarinriktad infrastruktur eller API:er, eller bidrag till infrastrukturprojekt eller maskininlärningssystem med öppen källkod, är meriterande.
  • Kännedom om observabilitetsverktyg, CI/CD-system eller releaseautomatisering är meriterande.

Förmåner

  • Konkurrenskraftig ersättning med meningsfullt aktieinnehav.
  • För anställda i USA och deras anhöriga: full täckning av sjuk-, tand- och synförsäkring.
  • Flexibel betald ledighet, inklusive en gemensam vinterledighet för hela företaget.
  • Betald föräldraledighet.
  • Stöd för fertilitet och familjebildning genom ett Carrot-bidrag.
  • För anställda i USA: en företagshanterad 401(k)-plan.
  • Möjlighet att få inblick i en rad ML-startups, vilket skapar stora möjligheter till lärande och professionellt nätverkande.

Relaterade jobb

Health Care Service Corporation

Senior affärskonsult på HCSC (hybrid i Richardson)

Health Care Service Corporation
Sponsor för H1B-visumFörsäkringarHälso- och sjukvårdKonsultverksamhet
USUSAILIllinoisOKOklahomaTXTexas
69 800 $ – 125 900 $ / år
HybridHeltidSeniorObligatoriskt Språk: engelskaKonsult

Led komplexa initiativ över flera divisioner på HCSC och samordna affärsanalys med divisionernas strategier. Samordna team, resurser, budgetar, tidsplaner och seniora intressenter genom omställningsprogram.

Öppna
Crowe

Senior konsult, huvudplanering och lageroptimering

Crowe
5 001 – 10 000 Anställda
Sponsor för H1B-visumKonsultverksamhetLivsmedel och dryckerTillverkning
USUSATNTennesseeTXTexas
95 000 $ – 147 000 $ / år
På platsHeltidSeniorObligatoriskt Språk: engelskaKonsult
Tableau

Hjälp tillverkningskunder att förbättra resultaten genom huvudplanering, lageroptimering och operativa förbättringsinitiativ. Ge råd till kunder och led transformationsprojekt inom Crowes rådgivningsverksamhet.

Öppna
Johnson & Johnson

Distansbaserad kontraktsdirektör för strategisk kundhantering

Johnson & Johnson
Sponsor för H1B-visumBioteknikHälso- och sjukvårdLäkemedel
USUSACOColoradoILIllinoisIAIowaKSKansasMNMinnesotaMOMissouriWIWisconsin
131 000 $ – 211 600 $ / år
DistansHeltidLeadObligatoriskt Språk: engelskaDirektör

Leda prissättning, förhandlingar och avtal för kirurgiportföljen inom Johnson & Johnsons hälso- och sjukvårdssystem. Forma kundstrategier, säkerställa regelefterlevnad och stödja lönsam verksamhet i sju amerikanska delstater.

Öppna
Ascensus

Regional vice vd, pensionsförsäljning – Kalifornien (distansarbete)

Ascensus
5 001 – 10 000 Anställda
Sponsor för H1B-visumFinansFörsäkringarKonsultverksamhet
USUSACAKalifornienDistansHeltidLeadObligatoriskt Språk: engelskaVice vd

Led försäljningen av pensionsplaner i Kalifornien genom att bygga relationer med finansiella rådgivare och förmedlarföretag. Rollen omfattar utveckling av distriktet, produktpositionering, stöd vid prospektering och samordning av försäljningen.

Öppna