Baseten
Baseten
Baseten pruža infrastrukturu za izvođenje modela tvrtkama koje uvode aplikacije strojnog učenja i umjetne inteligencije. Njegova je platforma izgrađena za brzo i skalabilno posluživanje modela te objedinjuje izvođenje velike propusnosti, brzu implementaciju, automatsko skaliranje, sigurno posluživanje modela za poduzeća i podršku za pakiranje modela otvorenog koda. Baseten pomaže inženjerskim timovima i timovima za strojno učenje upravljati operativnim zahtjevima infrastrukture modela kako bi se mogli usredotočiti na razvoj modela specifičnih za pojedine domene. Tvrtka posluje u područjima umjetne inteligencije, SaaS-a i poslovne tehnologije te ima 11–50 zaposlenika.

Softverski inženjer, platforma za LLM inferenciju – Baseten Hybrid

Gradite distribuiranu Basetenovu platformu za LLM inferenciju za AI tvrtke. Radite na orkestraciji Kubernetesa, API-jima modela, usmjeravanju, automatskom skaliranju i nadzoru produkcije.

Opis

  • Izgradnja infrastrukture i orkestracije za distribuiranu LLM inferenciju velikih razmjera, uključujući usmjeravanje, automatsko skaliranje, raspoređivanje i upravljanje izvođenjem.
  • Razvoj i rad API-ja modela koji podržavaju strukturirane izlaze, pozivanje alata i funkcija te multimodalno posluživanje.
  • Implementacija verzioniranja API-ja, provjere zahtjeva, mjerenja korištenja, kvota i autentikacije.
  • Izrada instrumentacije za metrike, tragove i zapisnike, zajedno s ponovljivim testovima brzine, pouzdanosti i kvalitete.
  • Uspostavljanje kvalitetnih praksi za testiranje, automatizaciju izdanja i izvrsnost operacija.
  • Dijagnosticiranje i jačanje produkcijskih sustava kroz Kubernetes, distribuirana izvršna okruženja, mreže i GPU radna opterećenja.
  • Suradnja s inženjerima za performanse inferencije i partnerskim timovima na optimizacijama usmjerenima na korisnike.
  • Vođenje projekata od arhitekture i implementacije do nadzora i iteracija na temelju povratnih informacija korisnika.
  • Usklađivanje performansi sustava, pouzdanosti, operativne jednostavnosti i iskustva razvojnih inženjera.

Zahtjevi

  • Prvostupnička, diplomska ili doktorska diploma iz računarstva, inženjerstva ili srodnog područja ili ekvivalentno praktično iskustvo.
  • Najmanje tri godine iskustva u izgradnji i radu distribuiranih sustava, pozadinske infrastrukture ili API-ja velikih razmjera, gdje su pouzdanost, latencija i skalabilnost ključni.
  • Dokazano preuzimanje odgovornosti za pouzdane pozadinske usluge s niskom latencijom koje uključuju ograničavanje brzine, autentikaciju, kvote, mjerenje korištenja i migracije.
  • Izvrsno prosuđivanje u području infrastrukture, uključujući iskustvo s profiliranjem, praćenjem, planiranjem kapaciteta i upravljanjem SLO-ovima.
  • Sposobnost dijagnosticiranja problema s performansama i pouzdanošću kroz aplikacijski, izvršni i infrastrukturni sloj.
  • Snažna usmjerenost na iskustvo razvojnih inženjera.
  • Spremnost na učenje novih jezika, okvira i sustava uz interes za inženjerstvo inferencije.
  • Izvrsne vještine pisane komunikacije i suradnje, uključujući jasnu projektnu dokumentaciju i učinkovitu međufunkcionalnu suradnju.
  • Iskustvo s inferencijskim mehanizmima ili okvirima za LLM, kao što su vLLM, SGLang, TensorRT-LLM, TGI ili Dynamo, ili doprinosi njima, predstavljaju prednost.
  • Duboko iskustvo s Kubernetesom, uključujući operatore i prilagođene resurse; poznavanje servisnih mreža ili API pristupnika predstavlja prednost.
  • Iskustvo s distribuiranim raspoređivanjem, automatskim skaliranjem ili orkestracijom usluga predstavlja prednost.
  • Iskustvo s pokretanjem GPU radnih opterećenja u produkciji predstavlja prednost.
  • Iskustvo s infrastrukturom ili API-jima usmjerenima na razvojne inženjere ili doprinosi infrastrukturi otvorenog koda ili sustavima strojnog učenja predstavljaju prednost.
  • Poznavanje alata za nadzor, sustava CI/CD ili automatizacije izdanja predstavlja prednost.

Pogodnosti

  • Konkurentna naknada uz značajan vlasnički udio.
  • Za zaposlenike u SAD-u i njihove uzdržavane članove potpuno pokriće zdravstvenog, stomatološkog i oftalmološkog osiguranja.
  • Fleksibilno plaćeno slobodno vrijeme, uključujući zimsku stanku za cijelu tvrtku.
  • Plaćeni roditeljski dopust.
  • Potpora plodnosti i osnivanju obitelji kroz Carrot stipendiju.
  • Za zaposlenike u SAD-u plan 401(k) koji omogućuje tvrtka.
  • Izloženost različitim startupovima u području strojnog učenja, što stvara značajne prilike za učenje i profesionalno umrežavanje.

Povezani poslovi

Whitman-Walker

Dvojezični navigator skrbi za osobe s HIV-om – Whitman-Walker, Washington, DC

Whitman-Walker

Pružajte podršku osobama koje žive s HIV-om kako bi se uključile u skrb, redovito uzimale lijekove i dobile odgovarajuće uputnice u centru Whitman-Walker u Washingtonu, DC. Koordinirajte podršku pacijentima između kliničkih timova i usluga u zajednici.

Otvori
nbn® Australia

Viši stručnjak za poslovnu analitiku

nbn® Australia
1.001 – 5.000 Zaposlenici
Telekomunikacije

Pretvorite složene poslovne i podatkovne izazove u jasne uvide, nadzorne ploče i okvire za praćenje uspješnosti u nbn-u, australskom nacionalnom pružatelju optičke infrastrukture. Surađujte s poslovnim i tehničkim timovima kako biste osnažili donošenje odluka utemeljeno na uvidima.

Otvori
Computershare UK

Viši prodajni predstavnik za korporativne trust usluge

Computershare UK
1.001 – 5.000 Zaposlenici
LogistikaMarketingSavjetovanje

Razvijajte poslovanje Computersharea u području korporativnih trust usluga izgradnjom odnosa s izdavateljima, odvjetnicima, odvjetničkim društvima i izvorima preporuka na području američkih tržišta kapitala. Uloga je usmjerena na usluge povjerenika za dužničke instrumente i escrow usluge.

Otvori
BD

Prodajni predstavnik za medicinske uređaje – kirurgija dojke i plastična kirurgija

BD

Razvijajte BD-ov posao s proizvodima GalaFLEX za kirurgiju dojke u južnoj Njemačkoj izgradnjom odnosa s kirurzima i širenjem kliničke primjene. Razvijajte strateške korisničke račune, jačajte prodaju na području i podupirite održivi rast.

Otvori
3M

Terenski prodajni predstavnik za automobilsku industriju u Mađarskoj

3M

Razvijajte poslovanje 3M-a u automobilskoj industriji diljem Mađarske kroz razvoj korisničkih računa, planiranje teritorija i prodaju portfelja. Uloga povezuje dodatnu prodaju i uvide o kupcima s bliskom suradnjom s tehničkim timovima i automobilskim opskrbnim lancem.

Otvori