Baseten zagotavlja infrastrukturo za izvajanje modelov podjetjem, ki uvajajo aplikacije strojnega učenja in umetne inteligence. Njegova platforma je zasnovana za hitro in razširljivo streženje modelov ter združuje izvajanje z visoko prepustnostjo, hitro uvajanje, samodejno prilagajanje obsega, varno streženje modelov za podjetja in podporo pakiranju odprtokodnih modelov. Baseten inženirskim ekipam ter ekipam za strojno učenje pomaga upravljati operativne zahteve infrastrukture modelov, da se lahko osredotočijo na razvoj modelov, prilagojenih posameznim področjem. Podjetje deluje na področjih umetne inteligence, SaaS in poslovne tehnologije ter ima 11–50 zaposlenih.
Arhitekt rešitev – AI/ML inferenca, delo na daljavo iz Združenih držav Amerike
Pridružite se podjetju Baseten kot arhitekt rešitev in pomagajte strankam zahteve AI/ML pretvoriti v produkcijsko pripravljene rešitve za inferenco ter projekte proof of concept. Sodelovali boste s prodajo in inženiringom pri odkrivanju potreb, predstavitvah, primerjalnem testiranju, arhitekturi in tehnični izvedbi.
Združene države Amerike145.000 $ – 290.000 $ / leto
Na daljavoPolni delovni časSrednja ravenSeniorZahtevani Jezik: angleščinaInženir rešitevOpis
- Sodelovanje s prodajo med klici za odkrivanje potreb strank
- Vodenje predstavitev in tehničnega opredeljevanja obsega glede na merila uspeha, arhitekturo in načrte uvedbe
- Prevzem odgovornosti za primerjalno testiranje in ponovljive uvedbe LLM-jev, vdelav, generiranja slik in videoposnetkov ter glasovne umetne inteligence
- Usmerjanje strank pri izbiri GPU-ja in konfiguracij za inferenco, vključno z izbiro med H100 in B200 ter optimizacijo razmerja med zakasnitvijo in prepustnostjo
- Razvoj ponovljivih priročnikov za uvedbo običajnih modelov in primerov uporabe
- Gradnja poglobljenega praktičnega znanja o orodjih vLLM, SGLang in TRT-LLM ter njihovih običajnih konfiguracijah in kompromisih
- Opredeljevanje projektov proof of concept ter usklajevanje deležnikov glede časovnic, rezultatov in naslednjih korakov
- Vodenje projektov proof of concept za stranke kot tehnični vodja projekta
- Vključevanje ekipe Forward Deployed Engineering, kadar projekti zahtevajo globljo ali kompleksnejšo tehnično podporo
Zahteve
- Izkušnje na področju AI/ML in verodostojnost za razpravo o tehničnih temah z deležniki na strani stranke
- Odlične komunikacijske veščine pri delu s strankami, vključno s strukturiranim odkrivanjem potreb in sposobnostjo reševanja nejasnih zahtev
- Tehnično znanje, zadostno za opredelitev obsega rešitev brez pisanja produkcijske kode
- Sposobnost skriptiranja in izdelave prototipov po potrebi ter suverenost pri uporabi hitrih programerskih delovnih tokov
- Izkušnje z izvajanjem ali podporo primerjalnim testom za uvedbe inference strojnega učenja
- Razumevanje infrastrukturnih odločitev, ki vplivajo na zmogljivost in stroške inference, vključno z izbiro GPU-ja ter nastavljanjem zakasnitve in prepustnosti
- Izkušnje z vodenjem projektov proof of concept za stranke med prodajo in inženiringom kot tehnični nosilec medfunkcijskega sodelovanja
Ugodnosti
- Konkurenčno plačilo s pomembnim lastniškim deležem
- Za zaposlene v ZDA in njihove vzdrževane družinske člane popolno zdravstveno, zobozdravstveno in vidno zavarovanje
- Prilagodljiv plačan prosti čas z zimskim premorom za celotno podjetje
- Plačan starševski dopust
- Dodatek za zdravljenje neplodnosti in ustvarjanje družine prek podjetja Carrot
- Za zaposlene v ZDA načrt 401(k), ki ga omogoča podjetje
- Priložnosti za delo z raznolikimi zagonskimi podjetji na področju ML ter širjenje znanja in poklicnih mrež