Baseten pruža infrastrukturu za izvođenje modela tvrtkama koje uvode aplikacije strojnog učenja i umjetne inteligencije. Njegova je platforma izgrađena za brzo i skalabilno posluživanje modela te objedinjuje izvođenje velike propusnosti, brzu implementaciju, automatsko skaliranje, sigurno posluživanje modela za poduzeća i podršku za pakiranje modela otvorenog koda. Baseten pomaže inženjerskim timovima i timovima za strojno učenje upravljati operativnim zahtjevima infrastrukture modela kako bi se mogli usredotočiti na razvoj modela specifičnih za pojedine domene. Tvrtka posluje u područjima umjetne inteligencije, SaaS-a i poslovne tehnologije te ima 11–50 zaposlenika.
Arhitekt rješenja – AI/ML inferencija, rad na daljinu iz Sjedinjenih Američkih Država
Pridružite se Basetenu kao arhitekt rješenja i pomažite korisnicima pretvoriti zahtjeve za AI/ML u produkcijski spremna inferencijska rješenja i proof of concept projekte. Surađivat ćete s prodajom i inženjeringom na otkrivanju potreba, demonstracijama, benchmarkingu, arhitekturi i tehničkoj isporuci.
Sjedinjene Američke Države145.000 $ – 290.000 $ / godina
UdaljenoPuno radno vrijemeSrednja razinaSeniorObavezan Jezik: engleskiInženjer rješenjaOpis
- Surađivati s prodajom tijekom poziva za otkrivanje potreba korisnika
- Voditi demonstracije i tehničko definiranje opsega usmjereno na kriterije uspjeha, arhitekturu i planove implementacije
- Biti odgovoran za benchmarking i ponovljive implementacije LLM-ova, embeddinga, generiranja slika i videozapisa te glasovne umjetne inteligencije
- Usmjeravati korisnike pri odabiru GPU-a i konfiguracija inferencije, uključujući izbor između H100 i B200 te optimizaciju odnosa latencije i propusnosti
- Razvijati ponovljive priručnike za implementaciju uobičajenih modela i slučajeva upotrebe
- Izgraditi duboko praktično znanje o alatima vLLM, SGLang i TRT-LLM te njihovim tipičnim konfiguracijama i kompromisima
- Definirati proof of concept projekte i koordinirati dionike oko rokova, isporuka i sljedećih koraka
- Upravljati korisničkim proof of concept projektima kao tehnički voditelj projekta
- Uključiti Forward Deployed Engineering kada projekti zahtijevaju dublju ili složeniju tehničku podršku
Zahtjevi
- Iskustvo u području AI/ML-a i vjerodostojnost potrebna za razgovor o tehničkim temama s korisničkim dionicima
- Izvrsne komunikacijske vještine u radu s korisnicima, uključujući strukturirano otkrivanje potreba i sposobnost rješavanja nejasnih zahtjeva
- Tehnička stručnost dovoljna za definiranje opsega rješenja bez pisanja produkcijskog koda
- Sposobnost skriptiranja i izrade prototipova prema potrebi te sigurnost u korištenju brzih programerskih radnih procesa
- Iskustvo u provođenju ili podršci benchmarkingu za implementacije inferencije strojnog učenja
- Razumijevanje infrastrukturnih odluka koje utječu na performanse i troškove inferencije, uključujući odabir GPU-a i podešavanje latencije i propusnosti
- Iskustvo vođenja korisničkih proof of concept projekata kroz prodaju i inženjering kao tehnički vlasnik koji koordinira više funkcija
Pogodnosti
- Konkurentna naknada uz značajan vlasnički udio
- Za zaposlenike u SAD-u i uzdržavane članove obitelji potpuno zdravstveno, stomatološko i oftalmološko osiguranje
- Fleksibilno plaćeno slobodno vrijeme uz zimsku stanku za cijelu tvrtku
- Plaćeni roditeljski dopust
- Naknada za liječenje neplodnosti i izgradnju obitelji putem Carrota
- Za zaposlenike u SAD-u plan 401(k) koji olakšava tvrtka
- Prilike za rad s raznolikim ML startupima te proširivanje znanja i profesionalne mreže