Baseten leverer infrastruktur til modelinferens for virksomheder, der implementerer maskinlærings- og AI-applikationer. Platformen er udviklet til hurtig og skalerbar betjening og kombinerer inferens med høj gennemstrømning, hurtig implementering, autoskalering, sikker modelbetjening til virksomheder samt understøttelse af pakning af open source-modeller. Baseten hjælper udviklings- og maskinlæringsteams med at håndtere de operationelle krav til modelinfrastruktur, så de kan fokusere på at udvikle domænespecifikke modeller. Virksomheden arbejder inden for kunstig intelligens, SaaS og virksomhedsteknologi og har et team på 11–50 medarbejdere.
Løsningsarkitekt – AI/ML-inferens, fjernarbejde i USA
Bliv løsningsarkitekt hos Baseten, og hjælp kunder med at omsætte AI/ML-krav til produktionsklare inferensimplementeringer og proof of concept-projekter. Samarbejd med salg og engineering om afdækning, demonstrationer, benchmarking, arkitektur og teknisk levering.
USA145.000 $ – 290.000 $ / år
FjernarbejdeFuldtidMellemniveauSeniorPåkrævet Sprog: engelskLøsningsingeniørBeskrivelse
- Samarbejd med salg under kundernes afdækningssamtaler
- Led demonstrationer og teknisk afgrænsning omkring succeskriterier, arkitektur og implementeringsplaner
- Hav ansvar for benchmarking og gentagelige implementeringer af LLM'er, embeddings, billed- og videogenerering samt Voice AI
- Vejled kunder i valg af GPU- og inferenskonfigurationer, herunder valget mellem H100 og B200 samt optimering mellem latenstid og gennemløb
- Udvikl gentagelige implementeringsvejledninger til almindelige modeller og anvendelsesområder
- Opbyg dyb praktisk ekspertise i vLLM, SGLang og TRT-LLM samt deres typiske konfigurationer og afvejninger
- Definér proof of concept-projekter, og koordiner interessenter om tidsplaner, leverancer og næste skridt
- Administrér kundernes proof of concept-projekter som teknisk projektleder
- Inddrag Forward Deployed Engineering, når projekter kræver dybere eller mere kompleks teknisk support
Krav
- Baggrund inden for AI/ML og troværdighed til at drøfte tekniske emner med kundernes interessenter
- Stærke kommunikative evner i kundekontakt, herunder struktureret afdækning og evnen til at afklare uklare krav
- Teknisk ekspertise til at afgrænse løsninger uden at skrive produktionskode
- Evne til at skrive scripts og udvikle prototyper efter behov samt fortrolighed med hurtige kodningsarbejdsgange
- Erfaring med at gennemføre eller understøtte benchmarks for inferensimplementeringer inden for maskinlæring
- Forståelse for infrastrukturvalg, der påvirker inferensens ydeevne og omkostninger, herunder GPU-valg og optimering af latenstid kontra gennemløb
- Erfaring med at lede kunders proof of concept-projekter på tværs af salg og engineering som tværfunktionelt teknisk ansvarlig
Fordele
- Konkurrencedygtig løn med betydelig ejerandel
- For ansatte i USA og deres pårørende: fuld dækning af sundheds-, tand- og synsforsikring
- Fleksibel betalt frihed med en fælles vinterpause for hele virksomheden
- Betalt forældreorlov
- Tilskud til fertilitet og familiedannelse gennem Carrot
- For ansatte i USA: en virksomhedsadministreret 401(k)-ordning
- Mulighed for at arbejde med forskellige ML-startups og udvide læring og professionelle netværk