Baseten
Baseten
Baseten pruža infrastrukturu za izvođenje modela tvrtkama koje uvode aplikacije strojnog učenja i umjetne inteligencije. Njegova je platforma izgrađena za brzo i skalabilno posluživanje modela te objedinjuje izvođenje velike propusnosti, brzu implementaciju, automatsko skaliranje, sigurno posluživanje modela za poduzeća i podršku za pakiranje modela otvorenog koda. Baseten pomaže inženjerskim timovima i timovima za strojno učenje upravljati operativnim zahtjevima infrastrukture modela kako bi se mogli usredotočiti na razvoj modela specifičnih za pojedine domene. Tvrtka posluje u područjima umjetne inteligencije, SaaS-a i poslovne tehnologije te ima 11–50 zaposlenika.

Softverski inženjer za performanse inferencije u Basetenu (hibridno)

Baseten zapošljava inženjera za performanse inferencije koji će optimizirati izvršna okruženja za LLM-ove, GPU jezgre i sustave posluživanja modela. Uloga je usmjerena na poboljšanje brzine produkcijske inferencije, iskorištenja hardvera i troškovne učinkovitosti.

Opis

  • Uvedite u produkciju napredne metode inferencije kao što su kvantizacija, spekulativno dekodiranje, ponovna upotreba KV predmemorije, sekvencijalno predpunjenje u dijelovima, LoRA, vođeno generiranje te prilagođeno raspoređivanje ili usmjeravanje.
  • Analizirajte cijeli proces inferencije i optimizirajte režiju jezgri, smještaj u memoriji, raspoređivanje zahtjeva, razdvajanje predpunjenja i dekodiranja te usmjeravanje svjesno predmemorije.
  • Povećajte broj tokena po GPU-satu i iskorištenje uz uravnoteženje latencije, propusnosti i troškova.
  • Implementirajte i optimizirajte nove arhitekture modela na novim hardverskim platformama.
  • Izradite referentne testove koji obuhvaćaju vrste modela, veličine serija, duljine sekvenci i hardverske konfiguracije.
  • Doprinosite poboljšanjima open-source projektima za inferenciju, uključujući vLLM, SGLang i TensorRT-LLM.
  • Surađujte s timovima za modele, infrastrukturu i rad sa korisnicima kako biste ostvarili mjerljiva poboljšanja performansi.

Zahtjevi

  • Diploma prvostupnika, magistra ili doktora znanosti iz računarstva, inženjerstva, matematike ili srodnog područja.
  • Profesionalno iskustvo s barem jednim programskim jezikom opće namjene, uključujući Python ili C++.
  • Praktično poznavanje metoda optimizacije LLM-ova poput kvantizacije, spekulativnog dekodiranja i kontinuiranog grupiranja.
  • Izvrsno poznavanje biblioteka strojnog učenja, osobito PyTorcha, TensorRT-a ili TensorRT-LLM-a.
  • Dokazan interes za velike jezične modele i praktično iskustvo s njima.
  • Temeljito razumijevanje GPU arhitekture.

Pogodnosti

  • Konkurentan paket plaće sa značajnim vlasničkim udjelom.
  • Zaposlenici u SAD-u i njihovi uzdržavani članovi imaju potpuno zdravstveno, stomatološko i oftalmološko osiguranje.
  • Fleksibilan plaćeni dopust i zimska stanka za cijelu tvrtku.
  • Plaćeni roditeljski dopust.
  • Potpora za plodnost i osnivanje obitelji putem stipendije Carrot.
  • Zaposlenici u SAD-u imaju plan 401(k) koji omogućuje tvrtka.
  • Prilike za rad s različitim startupovima iz područja strojnog učenja, uz znatne mogućnosti učenja i profesionalnog umrežavanja.

Povezani poslovi

HomeWorks Energy, Inc.

Prodajni predstavnik za kućnu energetsku učinkovitost – hibridni rad

HomeWorks Energy, Inc.

Provoditi energetske procjene kućanstava u okviru programa Mass Save za HomeWorks Energy, preporučivati poboljšanja učinkovitosti i ugrađivati odabrane proizvode za uštedu energije. Graditi odnose s korisnicima, objašnjavati mogućnosti uštede i sklapati ugovore o uslugama s vlasnicima kuća.

Otvori
Qualtrics

Voditelj korporativne prodaje za sport, medije i zabavu

Qualtrics
5.001 – 10.000 Zaposlenici
Sponzor vize H1BB2BPoduzećeSaaS

Vodite rast Qualtricsove korporativne prodaje u području sporta, medija i zabave te velikim klijentima ponudite rješenja za upravljanje iskustvom i generativnu umjetnu inteligenciju. Vodite i razvijajte tim korporativnih prodajnih predstavnika te sklapajte složene SaaS ugovore vrijedne milijune.

Otvori
HomeWorks Energy, Inc.

Prodajni predstavnik za energetsku učinkovitost domova

HomeWorks Energy, Inc.

Provodite procjene energetske učinkovitosti domova u okviru programa Mass Save i izrađujete modele kako biste utvrdili mogućnosti poboljšanja. Preporučujete i prodajete izolaciju, HVAC sustave i druge nadogradnje za uštedu energije vlasnicima kuća u Massachusettsu.

Otvori
HomeWorks Energy, Inc.

Prodajni predstavnik za kućnu energetsku učinkovitost – hibridni rad

HomeWorks Energy, Inc.

Provoditi energetske procjene kućanstava u okviru programa Mass Save i modelirati kuće radi utvrđivanja mogućih ušteda energije. Prodavati izolaciju, HVAC sustave i druge nadogradnje za veću učinkovitost vlasnicima kuća u Massachusettsu.

Otvori
HomeWorks Energy, Inc.

Prodajni predstavnik za energetsku učinkovitost kućanstava

HomeWorks Energy, Inc.

Provodite energetske procjene domova za vlasnike kuća u Massachusettsu u okviru programa Mass Save. Preporučujte i ugrađujte mjere za veću učinkovitost, razvijajte prodaju i ugovarajte usluge.

Otvori
HomeWorks Energy, Inc.

Prodajni predstavnik za energetsku učinkovitost kućanstava

HomeWorks Energy, Inc.

Provodite energetske procjene kućanstava u programu Mass Save, modelirate potrošnju energije i preporučujete poboljšanja učinkovitosti. Ugrađujete proizvode za uštedu energije, pomažete kupcima s dokumentacijom i sklapate ugovore o uslugama.

Otvori
HomeWorks Energy, Inc.

Prodajni predstavnik za energetsku učinkovitost kućanstava

HomeWorks Energy, Inc.

Provodite energetske procjene kućanstava za HomeWorks Energy i vlasnicima kuća preporučujte poboljšanja učinkovitosti. Ugrađujte proizvode za uštedu energije i ugovarajte usluge, vodeći korisnike kroz cijeli postupak.

Otvori
Feanix

Viši softverski inženjer za infrastrukturu i izdanja

Feanix

Vodite infrastrukturu, CI, izdanja, observabilnost i pouzdanost AWS-a za Feanixov softver za odluke o uzgoju stoke na temelju genomike. Podržavajte noćnu isporuku procesa farmama mliječnih krava.

Otvori
Grainger

Asistent regionalne prodaje, Illinois (rad na daljinu)

Grainger

Pružat ćete administrativnu podršku regionalnim voditeljima prodaje tvrtke Grainger te koordinirati rasporede, putovanja, sastanke, događanja, dokumente, proračune i timske procese. Također ćete održavati odjelnu stranicu na SharePointu te podupirati projekte, uvođenje novih zaposlenika i obuku kolega.

Otvori