Baseten poskytuje infraštruktúru na inferenciu modelov pre spoločnosti, ktoré nasadzujú aplikácie strojového učenia a umelej inteligencie. Jeho platforma je navrhnutá na rýchle a škálovateľné poskytovanie modelov a spája vysokokapacitnú inferenciu, rýchle nasadenie, automatické škálovanie, bezpečné poskytovanie modelov pre podniky a podporu balenia modelov s otvoreným zdrojovým kódom. Baseten pomáha inžinierskym tímom a tímom strojového učenia zvládať prevádzkové nároky modelovej infraštruktúry, aby sa mohli sústrediť na vývoj modelov špecifických pre jednotlivé domény. Spoločnosť pôsobí v oblasti umelej inteligencie, SaaS a podnikových technológií a má 11–50 zamestnancov.
Architekt riešení – AI/ML inferencia, práca na diaľku v Spojených štátoch
Pridajte sa k spoločnosti Baseten ako architekt riešení a pomáhajte zákazníkom premieňať požiadavky na AI/ML na produkčne pripravené inferenčné nasadenia a proof of concept projekty. Budete spolupracovať s obchodným a inžinierskym tímom na analýze potrieb, ukážkach, benchmarkoch, architektúre a technickej realizácii.
Spojené štáty145 000 $ – 290 000 $ / rok
Na diaľkuPlný úväzokStredná úroveňSeniorPožadovaný Jazyk: angličtinaInžinier riešeníPopis
- Spolupracovať s obchodným tímom počas úvodných hovorov so zákazníkmi
- Viesť ukážky a technické definovanie rozsahu so zameraním na kritériá úspechu, architektúru a plány nasadenia
- Zodpovedať za benchmarking a opakovateľné nasadenia LLM, embeddingov, generovania obrázkov a videí a hlasovej AI
- Sprevádzať zákazníkov pri výbere konfigurácie GPU a inferencie vrátane voľby medzi H100 a B200 a optimalizácie pomeru latencie a priepustnosti
- Vytvárať opakovateľné playbooky nasadenia pre bežné modely a prípady použitia
- Budovať hlboké praktické znalosti nástrojov vLLM, SGLang a TRT-LLM a ich typických konfigurácií a kompromisov
- Definovať proof of concept projekty a koordinovať zainteresované strany pri harmonogramoch, výstupoch a ďalších krokoch
- Riadiť zákaznícke proof of concept projekty ako technický vedúci projektu
- Zapájať tím Forward Deployed Engineering, keď projekty vyžadujú hlbšiu alebo komplexnejšiu technickú podporu
Požiadavky
- Skúsenosti v oblasti AI/ML a dôveryhodnosť potrebná na diskusiu o technických témach so zainteresovanými stranami na strane zákazníka
- Vynikajúce komunikačné zručnosti pri práci so zákazníkmi vrátane štruktúrovaného zisťovania potrieb a schopnosti riešiť nejednoznačné požiadavky
- Technické znalosti dostatočné na definovanie rozsahu riešení bez písania produkčného kódu
- Schopnosť skriptovať a vytvárať prototypy podľa potreby a istota pri používaní rýchlych pracovných postupov programovania
- Skúsenosti s vykonávaním alebo podporou benchmarkov pre nasadenia inferencie strojového učenia
- Znalosť rozhodnutí v oblasti infraštruktúry ovplyvňujúcich výkon a náklady inferencie vrátane výberu GPU a nastavovania latencie a priepustnosti
- Skúsenosti s vedením zákazníckych proof of concept projektov naprieč obchodným a inžinierskym tímom ako technický vlastník zodpovedný za spoluprácu viacerých funkcií
Benefity
- Konkurencieschopné odmeňovanie s významným podielom vo forme akcií
- Pre zamestnancov v USA a ich závislé osoby úplné zdravotné, zubné a očné poistenie
- Flexibilné platené voľno s celofiremnou zimnou prestávkou
- Platená rodičovská dovolenka
- Príspevok na liečbu neplodnosti a budovanie rodiny prostredníctvom Carrot
- Pre zamestnancov v USA firemne sprostredkovaný plán 401(k)
- Príležitosti spolupracovať s rôznorodými startupmi v oblasti ML a rozširovať si vedomosti a profesionálne kontakty