LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Töötajad
H1B viisa sponsorEttevõteSaaSTehisintellekt
Baseten pakub mudelite järeldustaristut ettevõtetele, kes juurutavad masinõppe- ja tehisintellektirakendusi. Selle platvorm on loodud kiireks ja skaleeritavaks mudelite teenindamiseks ning ühendab suure läbilaskevõimega järelduse, kiire juurutamise, automaatse skaleerimise, turvalise ettevõtetele mõeldud mudelite teenindamise ja avatud lähtekoodiga mudelite pakendamise toe. Baseten aitab inseneri- ja masinõppemeeskondadel hallata mudelitaristu operatiivseid vajadusi, et nad saaksid keskenduda valdkonnaspetsiifiliste mudelite arendamisele. Ettevõte tegutseb tehisintellekti, SaaS-i ja ettevõttetehnoloogia valdkonnas ning seal töötab 11–50 inimest.
LinkedIn
Töökohad ettevõttes

Insenerijuht, GPU-järelduse jõudlus Basetenis

Juhi GPU-järelduse jõudluse arendamist tehisintellekti taristuettevõttes Baseten. Suuna käituskeskkonna optimeerimist, mudelite tõhusust ja spetsialiseerunud tehnilise meeskonna kasvu.

USAmeerika ÜhendriigidCACaliforniaNYNew York
240 000 $ – 270 000 $ / aasta
HübriidtööTäistööaegKesktaseSeeniorNõutav Keel: ingliseInsenerijuht
PyTorch

Kirjeldus

  • Juhi, juhenda ja arenda järelduse jõudluse insenere regulaarsete üks-ühele vestluste, tagasiside, karjääriplaneerimise ja tulemuslikkuse hindamiste kaudu
  • Värba GPU- ja järelduse insenere ning kujunda koostööpõhist meeskonnakultuuri
  • Vastuta käituskeskkonna jõudluse tegevuskava ja selle elluviimise eest
  • Vaata üle tehnilised lahendused, suuna profileerimis- ja optimeerimistööd ning aita inseneridel hinnata ajakulu ja mälukasutust
  • Vii kvantimine, spekulatiivne dekodeerimine, KV-vahemälu taaskasutus, tükeldatud eeltäitmine ja kohandatud ajastamine tootmisse
  • Muuda jõudluse paranemised mõõdetavateks tulemusteks GPU-tunni kohta genereeritud tokenites, kasutusastmes, latentsuses ja kulus
  • Too uued mudeliarhitektuurid uuele riistvarale ning häälesta nende jõudlust
  • Tee infrastruktuuri-, järeldusplatvormi-, kerneli-, mudeli-API-de ja klienditööga tegelevate meeskondadega koostööd, et seada prioriteete, koordineerida väljalaskeid ja pakkuda parendusi
  • Kehtesta inseneritöö standardid kvaliteedi, võrdlusmõõtmiste, operatiivse tipptaseme ja intsidentidele reageerimise jaoks
  • Arenda agentse järelduse optimeerimist, agentseid kerneleid, spekulatiivse dekodeerimise mudelikoolitust ja Baseteni järelduspakki

Nõuded

  • Arvutiteaduse, inseneriteaduse, matemaatika või seotud valdkonna bakalaureuse-, magistri- või doktorikraad
  • Juhtimiskogemus inseneride värbamise, juhendamise, tagasiside ja tulemuslikkuse hindamise alal
  • Kogemus GPU optimeerimise meeskondade juhtimisel või tihedal toetamisel treenimise, järelduse või soovitussüsteemide valdkonnas
  • Põhjalikud tehnilised teadmised GPU töökoormustest, arhitektuurist ja jõudluse kompromissidest
  • Kogemus masinõppe teekidega, sealhulgas PyTorchi, TensorRT või TensorRT-LLM-iga
  • Tõestatud suutlikkus koostada tegevuskavasid ja viia meeskonnaga ellu keerukaid tehnilisi projekte
  • Väga hea kirjalik ja suuline suhtlusoskus sidusrühmade koordineerimiseks meeskondade vahel
  • Kogemus järeldusmootoritega, nagu vLLM, SGLang või TensorRT-LLM
  • Kogemus LLM-i optimeerimismeetoditega, nagu kvantimine, spekulatiivne dekodeerimine ja pidev pakkide töötlemine
  • Kogemus GPU kernelite arendamisel või nendega töötamisel CUDA, Tritoni või CUTLASSi abil
  • Kogemus insenerimeeskonna kasvatamisel kiiresti kasvavas idufirmas
  • Varasem praktiline kogemus jõudlus- või süsteemiinsenerina enne juhtimisele üleminekut

Hüved

  • Konkurentsivõimeline hüvitiste pakett koos olulise osalusega ettevõttes
  • USA töötajatele ja nende ülalpeetavatele täielik tervise-, hambaravi- ja nägemiskindlustus
  • Paindlik tasustatud puhkus, sealhulgas kogu ettevõtte ühine talvepuhkus
  • Tasustatud vanemapuhkus
  • Viljakuse ja pere loomise toetus Carroti kaudu
  • USA töötajatele ettevõtte korraldatud 401(k) pensioniplaan
  • Võimalus töötada mitmesuguste masinõppe idufirmadega ja luua valdkondlikke kontakte

Seotud töökohad

Kreato Global | BPO and Language Solutions

Inglise-hispaania keele kaugtõlk OPI/VRI

Kreato Global | BPO and Language Solutions
201 – 500 Töötajad
KülalislahkusLogistikaTervishoid
ARArgentinaBOBoliiviaBRBrasiiliaCLTšiiliCOColombiaCRCosta RicaCUKuubaDODominikaani VabariikECEcuadorGTGuatemalaHNHondurasHTHaitiMXMehhikoNINicaraguaPAPanamaPEPeruuPRPuerto RicoPYParaguaySVEl SalvadorUYUruguayVEVenezuelaKaugtööTäistööaegJuuniorKraadi ei nõutaNõutav Keel: ingliseNõutav Keel: hispaaniaTõlkija

Tõlgid kaugtööna inglise- ja hispaaniakeelsete inimeste vahel meditsiini, finantsvaldkonna, sotsiaalteenuste ja klienditeeninduse olukordades. Pakud keeleabi Kreato Globalile Ladina-Ameerikas.

Ava