Baseten teikia modelių inferencijos infrastruktūrą įmonėms, diegiančioms mašininio mokymosi ir dirbtinio intelekto programas. Jos platforma sukurta sparčiam ir keičiamo masto modelių aptarnavimui, apimančiam didelio pralaidumo inferenciją, greitą diegimą, automatinį mastelio keitimą, saugų įmonių modelių aptarnavimą ir atvirojo kodo modelių pakavimo palaikymą. Baseten padeda inžinerijos ir mašininio mokymosi komandoms valdyti modelių infrastruktūros operacinius poreikius, kad jos galėtų sutelkti dėmesį į konkrečiai sričiai skirtų modelių kūrimą. Įmonė veikia dirbtinio intelekto, SaaS ir įmonių technologijų srityse, joje dirba 11–50 darbuotojų.
Sprendimų architektas – DI ir ML inferencija, nuotolinis darbas JAV
Prisijunkite prie „Baseten“ kaip sprendimų architektas ir padėkite klientams paversti DI bei ML reikalavimus gamybai parengtais inferencijos diegimais ir koncepcijos įrodymais. Dirbsite su pardavimų ir inžinerijos komandomis rinkdami reikalavimus, rengdami demonstracijas, atlikdami etaloninius bandymus, projektuodami architektūrą ir užtikrindami techninį įgyvendinimą.
Aprašymas
- Bendradarbiauti su pardavimų komanda per klientų poreikių išsiaiškinimo pokalbius
- Vadovauti demonstracijoms ir techninės apimties nustatymui, susijusiam su sėkmės kriterijais, architektūra ir diegimo planais
- Prisiimti atsakomybę už LLM, įterpinių, vaizdų ir vaizdo įrašų generavimo bei balso DI etaloninius bandymus ir pakartojamus diegimus
- Konsultuoti klientus dėl GPU ir inferencijos konfigūracijos pasirinkimų, įskaitant H100 ir B200 parinkimą bei delsos ir pralaidumo optimizavimą
- Kurti pakartojamus dažniausiai naudojamų modelių ir naudojimo atvejų diegimo vadovus
- Sukaupti gilią praktinę vLLM, SGLang ir TRT-LLM kompetenciją bei išmanyti tipines jų konfigūracijas ir kompromisus
- Apibrėžti koncepcijos įrodymus ir koordinuoti suinteresuotąsias šalis dėl terminų, rezultatų ir tolesnių veiksmų
- Vadovauti klientų koncepcijos įrodymams kaip techniniam projekto vadovui
- Įtraukti „Forward Deployed Engineering“ komandą, kai projektams reikia gilesnės ar sudėtingesnės techninės pagalbos
Reikalavimai
- Patirtis DI ir ML srityje bei gebėjimas patikimai aptarti technines temas su klientų suinteresuotosiomis šalimis
- Puikūs bendravimo su klientais įgūdžiai, įskaitant struktūruotą poreikių išsiaiškinimą ir gebėjimą spręsti neaiškius reikalavimus
- Pakankama techninė kompetencija sprendimų apimčiai nustatyti nerašant gamybinio kodo
- Gebėjimas prireikus kurti scenarijus ir prototipus bei patogus darbas taikant spartų kodavimo procesą
- Patirtis atliekant arba palaikant mašininio mokymosi inferencijos diegimų etaloninius bandymus
- Infrastruktūros sprendimų, darančių įtaką inferencijos našumui ir kainai, supratimas, įskaitant GPU pasirinkimą bei delsos ir pralaidumo derinimą
- Patirtis vadovaujant klientų koncepcijos įrodymams bendradarbiaujant su pardavimų ir inžinerijos komandomis kaip tarpdisciplininiam techniniam atsakingam asmeniui
Privalumai
- Konkurencingas atlygis ir reikšminga nuosavybės dalis
- JAV darbuotojams ir jų išlaikytiniams suteikiamas visas sveikatos, dantų priežiūros ir regėjimo draudimas
- Lanksčios apmokamos atostogos ir visos įmonės žiemos pertrauka
- Apmokamos vaiko priežiūros atostogos
- Vaisingumo ir šeimos kūrimo išmoka per „Carrot“
- JAV darbuotojams įmonės organizuojamas 401(k) planas
- Galimybės dirbti su įvairiais ML startuoliais bei plėsti žinias ir profesinius ryšius