Baseten tillhandahåller infrastruktur för modellinferens åt företag som distribuerar maskininlärnings- och AI-applikationer. Plattformen är byggd för snabb och skalbar drift och kombinerar inferens med hög genomströmning, snabb driftsättning, autoskalning, säker modellservering för företag samt stöd för paketering av modeller med öppen källkod. Baseten hjälper teknik- och maskininlärningsteam att hantera de operativa kraven på modellinfrastruktur, så att de kan fokusera på att utveckla domänspecifika modeller. Företaget verkar inom artificiell intelligens, SaaS och företagsteknik och har ett team på 11–50 medarbetare.
Lösningsarkitekt – AI/ML-inferens, distansarbete i USA
Bli lösningsarkitekt hos Baseten och hjälp kunder att omsätta AI/ML-krav till produktionsklara inferensdistributioner och proof of concept-projekt. Samarbeta med försäljning och teknik kring behovsanalys, demonstrationer, benchmarktester, arkitektur och teknisk leverans.
USA145 000 $ – 290 000 $ / år
DistansHeltidMellannivåSeniorObligatoriskt Språk: engelskaLösningsingenjörBeskrivning
- Samarbeta med försäljning under kundernas behovsanalyser
- Leda demonstrationer och teknisk avgränsning kring framgångskriterier, arkitektur och distributionsplaner
- Ansvara för benchmarktester och repeterbara distributioner av LLM:er, embeddings, bild- och videogenerering samt röstbaserad AI
- Vägleda kunder i val av GPU- och inferenskonfigurationer, inklusive valet mellan H100 och B200 samt optimering mellan fördröjning och genomströmning
- Utveckla repeterbara distributionshandböcker för vanliga modeller och användningsområden
- Bygga djup praktisk kompetens inom vLLM, SGLang och TRT-LLM samt deras typiska konfigurationer och avvägningar
- Definiera proof of concept-projekt och samordna intressenter kring tidsplaner, leveranser och nästa steg
- Hantera kundernas proof of concept-projekt som teknisk projektledare
- Involvera Forward Deployed Engineering när projekt kräver djupare eller mer komplex teknisk support
Krav
- Bakgrund inom AI/ML och trovärdighet att diskutera tekniska frågor med kundernas intressenter
- God kommunikativ förmåga i kundkontakter, inklusive strukturerad behovsanalys och förmåga att reda ut otydliga krav
- Tillräcklig teknisk expertis för att avgränsa lösningar utan att skriva produktionskod
- Förmåga att skripta och skapa prototyper vid behov samt vana vid snabba kodningsarbetsflöden
- Erfarenhet av att genomföra eller stödja benchmarktester för maskininlärningsbaserade inferensdistributioner
- Förståelse för infrastrukturval som påverkar inferensens prestanda och kostnad, inklusive GPU-val och justering mellan fördröjning och genomströmning
- Erfarenhet av att leda kunders proof of concept-projekt över försäljning och teknik som tvärfunktionellt tekniskt ansvarig
Förmåner
- Konkurrenskraftig ersättning med betydande ägarandel
- För anställda i USA och deras anhöriga: heltäckande sjuk-, tand- och synförsäkring
- Flexibel betald ledighet med en gemensam vinterpaus för hela företaget
- Betald föräldraledighet
- Bidrag till fertilitet och familjebildning genom Carrot
- För anställda i USA: en företagsadministrerad 401(k)-plan
- Möjlighet att arbeta med olika ML-startups och bredda sitt lärande och professionella nätverk