adaption
adaption
adaption udvikler adaptive AI-systemer og værktøjer, der er designet til at tilpasse intelligens til individuelle brugere, sprog, brancher og specialiserede anvendelsestilfælde. Virksomhedens arbejde omfatter Adaptive Data, Adaptive Intelligence og Adaptive Interfaces – tilgange, der hjælper modeller med løbende at tilpasse sig og understøtter mere responsive brugeroplevelser uden i samme grad at være afhængige af manuel prompting eller én enkelt monolitisk model. Virksomhedens teknologi er relevant for organisationer, der undersøger praktiske AI-anvendelser inden for områder som rådgivning, logistik og markedsføring.

Inferensingeniør — Adaption (hybrid, Bay Area)

Optimér inferensinfrastrukturen med fokus på gennemløb, omkostninger og latenstid hos Adaption, en AI-virksomhed, der udvikler adaptive intelligenssystemer. Forbedr modelserving på tværs af GPU'er, inferensmotorer og produktionsarbejdsbelastninger.

Beskrivelse

  • Hav det overordnede ansvar for omkostninger og ydeevne i hele inferensstakken.
  • Øg gennemløbet, og reducer omkostninger og halelatenstid gennem håndtering af KV-cache, kontinuerlig batching, spekulativ dekodning og kvantisering.
  • Optimér arbejdsbelastninger for præfyldning og dekodning med lang kontekst baseret på reel produktionstrafik.
  • Tilpas routingen mellem intern infrastruktur og eksterne leverandører efter omkostninger, kapacitet og ydeevne.
  • Brug servingmotorer som vLLM, SGLang og TensorRT-LLM, og arbejd under framework-niveauet, når det er nødvendigt.
  • Udvikl profilerings- og målesystemer til at lokalisere tids-, hukommelses- og beregningsforbrug.
  • Samarbejd tæt med ingeniører, der har ansvaret for serving-flåden.

Krav

  • Have mindst fem års erfaring med ML-systemer, inferensinfrastruktur eller performance engineering med målbare forbedringer af omkostninger eller latenstid.
  • Demonstrere dyb viden om modelserving, herunder præfyldning og dekodning, hukommelsesbåndbredde, batching og samtidighed.
  • Have produktionserfaring med servingmotorer som vLLM, SGLang eller TensorRT-LLM.
  • Bruge Python sikkert og være fortrolig med C++, Rust eller et andet systemprogrammeringssprog.
  • Forstå GPU-ydeevneområder som CUDA, NCCL, mixed precision, hukommelseslayout, kernels eller kvantisering.
  • Være i stand til at arbejde fysisk i Bay Area i en hybridopsætning.

Fordele

  • Kombinér samarbejde fysisk i Bay Area med et distribueret, globalt team og teamarrangementer forskellige steder.
  • Modtag et årligt Adaption Passport-rejsetilskud til at udforske et land, du ikke tidligere har besøgt.
  • Få et ugentligt tilskud til takeaway-måltider eller levering af dagligvarer.
  • Få adgang til omfattende sundhedsdækning og generøs betalt frihed.

Relaterede job

Air Liquide

Finanstrainee – fransk-, tysk- eller nederlandsktalende

Air Liquide

Bliv en del af Air Liquides traineeprogram inden for økonomi, og støt regnskab, treasury og afstemninger i virksomhedens globale center for forretningsservice. Bidrag til at forbedre finansiel afslutning og ERP-processer, mens du arbejder på engelsk og fransk, tysk eller nederlandsk.

Åbn
Propelis

Senior finansanalytiker

Propelis

Stå i spidsen for finansiel planlægning og analyse af Propelis’ globale virksomheder inden for marketingydelser og teknologi. Varetage modellering, budgettering, prognoser, resultatgennemgange og due diligence i forbindelse med opkøb.

Åbn