Baseten leverer infrastruktur for modellinferens til selskaper som distribuerer maskinlærings- og AI-applikasjoner. Plattformen er utviklet for rask og skalerbar kjøring og kombinerer inferens med høy gjennomstrømning, rask utrulling, autoskalering, sikker modellkjøring for virksomheter samt støtte for pakking av modeller med åpen kildekode. Baseten hjelper utviklings- og maskinlæringsteam med å håndtere de operative kravene til modellinfrastruktur, slik at de kan fokusere på å utvikle domenespesifikke modeller. Selskapet opererer innen kunstig intelligens, SaaS og virksomhetsteknologi og har et team på 11–50 medarbeidere.
Løsningsarkitekt – AI/ML-inferens, fjernarbeid i USA
Bli løsningsarkitekt hos Baseten og hjelp kunder med å omsette AI/ML-krav til produksjonsklare inferensdistribusjoner og proof of concept-prosjekter. Samarbeid med salg og engineering om behovskartlegging, demonstrasjoner, benchmarking, arkitektur og teknisk levering.
USA145 000 $ – 290 000 $ / år
FjernarbeidHeltidMellomnivåSeniorPåkrevd Språk: engelskLøsningsingeniørBeskrivelse
- Samarbeide med salg under kunders behovskartlegging
- Lede demonstrasjoner og teknisk avgrensning rundt suksesskriterier, arkitektur og distribusjonsplaner
- Ha ansvar for benchmarking og repeterbare distribusjoner av LLM-er, embeddings, bilde- og videogenerering samt Voice AI
- Veilede kunder i valg av GPU- og inferenskonfigurasjoner, inkludert valget mellom H100 og B200 samt optimalisering mellom forsinkelse og gjennomstrømning
- Utvikle repeterbare distribusjonsveiledninger for vanlige modeller og bruksområder
- Bygge dyp praktisk kompetanse innen vLLM, SGLang og TRT-LLM samt deres typiske konfigurasjoner og avveininger
- Definere proof of concept-prosjekter og koordinere interessenter rundt tidsplaner, leveranser og neste steg
- Administrere kundenes proof of concept-prosjekter som teknisk prosjektleder
- Involvere Forward Deployed Engineering når prosjekter krever dypere eller mer kompleks teknisk støtte
Krav
- Bakgrunn innen AI/ML og troverdighet til å diskutere tekniske emner med kundens interessenter
- Sterke kommunikasjonsevner i kundekontakt, inkludert strukturert behovskartlegging og evne til å avklare uklare krav
- Teknisk ekspertise til å avgrense løsninger uten å skrive produksjonskode
- Evne til å skrive skript og lage prototyper ved behov, samt komfort med raske arbeidsflyter for koding
- Erfaring med å gjennomføre eller støtte benchmarking av inferensdistribusjoner for maskinlæring
- Forståelse av infrastrukturvalg som påvirker inferensens ytelse og kostnad, inkludert GPU-valg og optimalisering av forsinkelse kontra gjennomstrømning
- Erfaring med å lede kunders proof of concept-prosjekter på tvers av salg og engineering som tverrfunksjonelt teknisk ansvarlig
Fordeler
- Konkurransedyktig kompensasjon med betydelig eierandel
- For ansatte i USA og deres pårørende: full dekning av helse-, tann- og synsforsikring
- Fleksibel betalt fri med en felles vinterpause for hele selskapet
- Betalt foreldrepermisjon
- Tilskudd til fertilitet og familiedannelse gjennom Carrot
- For ansatte i USA: en firmatilrettelagt 401(k)-ordning
- Mulighet til å jobbe med ulike ML-startups og utvide læring og profesjonelle nettverk