LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Darbuotojai
H1B vizos rėmėjasDirbtinis intelektasĮmonėSaaS
Baseten teikia modelių inferencijos infrastruktūrą įmonėms, diegiančioms mašininio mokymosi ir dirbtinio intelekto programas. Jos platforma sukurta sparčiam ir keičiamo masto modelių aptarnavimui, apimančiam didelio pralaidumo inferenciją, greitą diegimą, automatinį mastelio keitimą, saugų įmonių modelių aptarnavimą ir atvirojo kodo modelių pakavimo palaikymą. Baseten padeda inžinerijos ir mašininio mokymosi komandoms valdyti modelių infrastruktūros operacinius poreikius, kad jos galėtų sutelkti dėmesį į konkrečiai sričiai skirtų modelių kūrimą. Įmonė veikia dirbtinio intelekto, SaaS ir įmonių technologijų srityse, joje dirba 11–50 darbuotojų.
LinkedIn
Darbai įmonėje

Inžinerijos vadovas, GPU išvadų atlikimo našumas Baseten

Vadovauk GPU išvadų atlikimo našumo inžinerijai dirbtinio intelekto infrastruktūros įmonėje „Baseten“. Koordinuok vykdymo aplinkos optimizavimą, modelių efektyvumą ir specializuotos techninės komandos augimą.

USJungtinės ValstijosCAKalifornijaNYNiujorkas
240 000 $ – 270 000 $ / metai
HibridinisVisas etatasVidutinis lygisVyresnysis specialistasPrivaloma Kalba: anglųInžinerijos vadovas
PyTorch

Aprašymas

  • Vadovauk išvadų atlikimo našumo inžinieriams, juos ugdyk ir padėk jiems tobulėti rengdamas reguliarius individualius pokalbius, teikdamas grįžtamąjį ryšį, planuodamas karjerą ir atlikdamas veiklos vertinimus
  • Samdyk GPU ir išvadų atlikimo inžinierius bei puoselėk bendradarbiavimu grįstą komandos kultūrą
  • Prisiimk atsakomybę už vykdymo aplinkos našumo planą ir jo įgyvendinimą
  • Peržiūrėk techninius sprendimus, vadovauk profiliavimo ir optimizavimo darbams bei padėk inžinieriams įvertinti laiko ir atminties sąnaudas
  • Perkelk į gamybą kvantavimą, spekuliatyvų dekodavimą, KV podėlio pakartotinį naudojimą, dalinį išankstinį užpildymą ir pasirinktinį planavimą
  • Paversk našumo pagerėjimus išmatuojamais pokyčiais žetonų skaičiumi vienai GPU valandai, panaudojimu, delsa ir sąnaudomis
  • Perkelk naujas modelių architektūras į naują aparatinę įrangą ir sureguliuok jų našumą
  • Bendradarbiauk su infrastruktūros, išvadų atlikimo platformos, branduolių, modelių API ir su klientais dirbančiomis komandomis, kad nustatytum prioritetus, koordinuotum paleidimus ir įgyvendintum patobulinimus
  • Nustatyk inžinerijos standartus kokybei, lyginamiesiems matavimams, veiklos meistriškumui ir reagavimui į incidentus
  • Tobulink agentinį išvadų atlikimo optimizavimą, agentinius branduolius, spekuliatyvaus dekodavimo modelių mokymą ir „Baseten“ išvadų atlikimo steką

Reikalavimai

  • Informatikos, inžinerijos, matematikos ar susijusios srities bakalauro, magistro arba doktorantūros laipsnis
  • Vadovavimo patirtis įdarbinant inžinierius, juos ugdant, teikiant grįžtamąjį ryšį ir vertinant jų veiklą
  • Patirtis vadovaujant GPU optimizavimo komandoms arba glaudžiai su jomis dirbant mokymo, išvadų atlikimo ar rekomendacinių sistemų srityse
  • Gilios techninės žinios apie GPU darbo krūvius, architektūrą ir našumo kompromisus
  • Patirtis dirbant su mašininio mokymosi bibliotekomis, įskaitant „PyTorch“, „TensorRT“ arba „TensorRT-LLM“
  • Gebėjimas nustatyti planus ir kartu su komanda įgyvendinti sudėtingus techninius projektus
  • Puikūs rašytinės ir žodinės komunikacijos įgūdžiai derinant skirtingų komandų suinteresuotųjų šalių veiksmus
  • Patirtis dirbant su išvadų atlikimo varikliais, tokiais kaip „vLLM“, „SGLang“ arba „TensorRT-LLM“
  • Patirtis taikant LLM optimizavimo metodus, tokius kaip kvantavimas, spekuliatyvus dekodavimas ir nuolatinis paketinis apdorojimas
  • Patirtis kuriant GPU branduolius arba dirbant su jais naudojant CUDA, „Triton“ ar „CUTLASS“
  • Patirtis auginant inžinerijos komandą sparčiai augančiame startuolyje
  • Ankstesnė praktinė našumo arba sistemų inžinieriaus patirtis prieš pereinant į vadovaujamąsias pareigas

Privalumai

  • Konkurencingas atlygio paketas su reikšminga nuosavybės dalimi
  • JAV darbuotojams ir jų išlaikytiniams suteikiamas visapusiškas sveikatos, dantų priežiūros ir regėjimo draudimas
  • Lankstus apmokamas laisvas laikas, įskaitant visos įmonės žiemos pertrauką
  • Apmokamos vaiko priežiūros atostogos
  • Vaisingumo ir šeimos kūrimo parama per „Carrot“
  • JAV darbuotojams įmonės organizuojamas 401(k) planas
  • Galimybės dirbti su įvairiais mašininio mokymosi startuoliais ir užmegzti ryšius pramonėje

Susiję darbai

Cabot Corporation

Senior Digital Business Partner, Integrated Operations

Cabot Corporation
1 001 – 5 000 Darbuotojai
H1B vizos rėmėjasB2BGamybaMokslas
LVLatvija
5 150 € – 7 450 € / mėnuo
HibridinisVisas etatasVyresnysis specialistasPrivaloma Kalba: anglųOperacijos
ERPIoT

Advance digital transformation across Cabot’s global manufacturing operations by connecting business priorities with practical technology initiatives. Improve plant performance through analytics, Industry 4.0 adoption, and solutions that deliver measurable value.

Atidaryti
Cabot Corporation

Senior Technical Services and Applications Manager, EMEA Inkjet

Cabot Corporation
1 001 – 5 000 Darbuotojai
H1B vizos rėmėjasB2BGamybaMokslas
LVLatvijaHibridinisVisas etatasVyresnysis specialistasVadovasPrivaloma Kalba: anglųVadovas

Lead technical customer support and application problem-solving for Cabot’s specialty chemicals and inkjet dispersion products across Europe. Partner with Sales and cross-functional teams to resolve issues and identify opportunities for product innovation.

Atidaryti