adaption
adaption
adaption utvecklar adaptiva AI-system och verktyg som är utformade för att anpassa intelligens till enskilda användare, språk, branscher och specialiserade användningsfall. Företagets arbete omfattar Adaptive Data, Adaptive Intelligence och Adaptive Interfaces – metoder som hjälper modeller att anpassa sig kontinuerligt och möjliggör mer responsiva användarupplevelser utan att vara lika beroende av manuell promptning eller en enda monolitisk modell. Företagets teknik är relevant för organisationer som utforskar praktiska AI-tillämpningar inom områden som konsultverksamhet, logistik och marknadsföring.

Inferensingenjör — Adaption (hybrid, Bay Area)

Optimera inferensinfrastrukturen för genomströmning, kostnad och latens hos Adaption, ett AI-företag som utvecklar adaptiva intelligenssystem. Förbättra modellserving över GPU:er, inferensmotorer och produktionsarbetslaster.

Beskrivning

  • Ansvara för kostnad och prestanda i hela inferensstacken.
  • Öka genomströmningen och minska kostnad och svanslatens genom hantering av KV-cache, kontinuerlig batchning, spekulativ avkodning och kvantisering.
  • Optimera arbetslaster för förifyllning och avkodning med lång kontext utifrån verklig produktionstrafik.
  • Anpassa routningen mellan intern infrastruktur och externa leverantörer utifrån kostnad, kapacitet och prestanda.
  • Använd servingmotorer som vLLM, SGLang och TensorRT-LLM, och arbeta under ramverksnivån när det behövs.
  • Utveckla profilerings- och mätsystem för att lokalisera tids-, minnes- och beräkningsanvändning.
  • Samarbeta nära med ingenjörer som ansvarar för servingflottan.

Krav

  • Ha minst fem års erfarenhet av ML-system, inferensinfrastruktur eller prestandateknik, med mätbara förbättringar av kostnad eller latens.
  • Ha djup kunskap om modellserving, inklusive förifyllning och avkodning, minnesbandbredd, batchning och samtidighet.
  • Ha produktionserfarenhet av servingmotorer som vLLM, SGLang eller TensorRT-LLM.
  • Använda Python obehindrat och vara kunnig i C++, Rust eller ett annat systemprogrammeringsspråk.
  • Förstå GPU-prestandaområden som CUDA, NCCL, blandad precision, minneslayout, kärnor eller kvantisering.
  • Kunna arbeta på plats i Bay Area inom en hybridlösning.

Förmåner

  • Kombinera samarbete på plats i Bay Area med ett distribuerat, globalt team och teamträffar på olika platser.
  • Få ett årligt Adaption Passport-resebidrag för att utforska ett land du inte tidigare har besökt.
  • Få ett veckobidrag för hämtmat eller leverans av matvaror.
  • Få tillgång till omfattande sjukförsäkring och generös betald ledighet.

Relaterade jobb

Bloomlife Inc

Distansbaserad account executive inom vårdförsäljning

Bloomlife Inc

Utveckla Bloomlifes distansbaserade verksamhet för övervakning av graviditeter genom att sälja lösningar för patientövervakning på distans till obstetrik- och gynekologmottagningar och vårdsystem. Ansvara för hela säljcykeln, från prospektering och kliniska presentationer till avtalsförhandlingar och överlämning inför implementering.

Öppna
Illumina

Klinisk säljspecialist inom genomik – Thailand, Indonesien och Vietnam

Illumina

Stöd Illuminas försäljning av klinisk genomik i Thailand, Indonesien och Vietnam genom att ge kunder råd om tillämpningar, arbetsflöden och produkter. Rollen omfattar reproduktiv och genetisk hälsa, onkologi, kundutveckling och regional marknadstillväxt.

Öppna
GlobeLife

Kundretentionsrepresentant på distans

GlobeLife

Hjälp Globe Lifes försäkringstagare att behålla sitt skydd och återuppliva livförsäkringar som har upphört i en distansbaserad roll inom kundretention. Hantera inkommande och utgående samtal, diskutera försäkringsskydd och betalningsalternativ, dokumentera resultat och nå retentionsmålen.

Öppna