Designworks Talent LLC je podjetje za zaposlovanje in svetovanje na področju talentov, ki nudi storitve hitro rastočim zagonskim podjetjem in globalnim podjetjem. Podjetje, ustanovljeno leta 2009, združuje izkušene kadrovike z orodji, ki uporabljajo umetno inteligenco, ter tako podpira hitrejše in bolj ciljno usmerjeno zaposlovanje. Njegovo delo zajema celovito iskanje kandidatov, projektno zaposlovanje in prilagodljive modele na zahtevo, pa tudi razširljive strategije zaposlovanja, kadrovske operacije, vodenje pridobivanja talentov v podjetjih, podatkovno podprto iskanje kandidatov in izkušnjo kandidatov. Pristop ekipe je zasnovan tako, da organizacijam zagotavlja prilagodljivo podporo, ko se njihove potrebe po zaposlovanju spreminjajo.
Glavni inženir za inferenco – hibridno v Bellevueju
Vodite razvoj produkcijskih sistemov za streženje modelov v podjetju za infrastrukturo umetne inteligence. Izboljšujte izkoriščenost GPU, zakasnitev, prepustnost, razširljivost in zanesljivost pri obsežnih delovnih obremenitvah umetne inteligence.
Opis
- Gradite in upravljajte produkcijske sisteme za streženje modelov in inferenco za delovne obremenitve umetne inteligence z visoko prepustnostjo in nizko zakasnitvijo
- Optimizirajte infrastrukturo za inferenco glede prepustnosti žetonov, zakasnitve, razširljivosti in stroškovne učinkovitosti pri različnih modelih in delovnih obremenitvah
- Načrtujte sisteme, ki učinkovito uporabljajo GPU in hkrati zagotavljajo enakomerno zmogljivost ter zanesljivost
- Izboljšujte razširljivost inferenčne platforme in operativno zrelost z rastjo povpraševanja strank
- Sodelujte z ekipami za učenje modelov umetne inteligence, zmogljivost GPU, orkestracijo in infrastrukturo pri prenosu modelov iz razvoja v produkcijo
- Vzpostavite nadzorovanje, opozarjanje in operativne prakse, ki podpirajo zanesljive inferenčne storitve
- Diagnosticirajte in odpravljajte težave z zmogljivostjo, zanesljivostjo in zmogljivostjo sistema pri inferenčnih delovnih obremenitvah
- Sodelujte pri arhitekturnih odločitvah in oblikovanju inženirskih standardov z razvojem platforme
Zahteve
- Izkušnje z gradnjo in upravljanjem produkcijskih sistemov strojnega učenja za inferenco ali streženje modelov v velikem obsegu
- Dobro razumevanje kompromisov med zakasnitvijo, prepustnostjo, izkoriščenostjo pomnilnika in stroškovno učinkovitostjo pri streženju velikih modelov umetne inteligence
- Izkušnje z načrtovanjem zanesljivih porazdeljenih sistemov ali produkcijske infrastrukture
- Razumevanje delovnih obremenitev umetne inteligence, ki uporabljajo GPU, in izzivov pri razširjanju inferenčnih sistemov
- Dobri inženirski temelji ter sposobnost samostojnega reševanja zapletenih tehničnih težav
- Pripravljenost za delo v hitro spreminjajočem se okolju, kjer se sistemi in procesi gradijo od začetka
- Izkušnje s sodobnimi ogrodji za streženje inference, kot so vLLM, SGLang, TensorRT-LLM, Triton Inference Server ali primerljive tehnologije
- Izkušnje z optimizacijo inferenčnih delovnih obremenitev LLM ali platform za obsežno streženje umetne inteligence
- Izkušnje z upravljanjem izdelkov umetne inteligence, ki temeljijo na API-jih, ali produkcijskih storitev z velikim obsegom
- Izkušnje z razporejanjem GPU, porazdeljenimi sistemi, Kubernetesom ali platformami oblačne infrastrukture
- Poznavanje kvantizacije, paketne obdelave, predpomnjenja ali nastavljanja zmogljivosti
- Izkušnje pri ponudniku oblačnih storitev velikega obsega, v laboratoriju za umetno inteligenco, pri ponudniku GPU oblaka ali v organizaciji za infrastrukturo ML velikega obsega
- Potrebno je dovoljenje za delo v ZDA
- Sponzorstvo za vizum trenutno ni na voljo
- Pripravljenost za hibridno delo v središču Bellevueja v zvezni državi Washington, z vsaj tremi dnevi na teden v pisarni po vzpostavitvi stalne pisarne
Ugodnosti
- Konkurenčno osnovno plačilo za trg v Bellevueju
- Povišanja na podlagi zaslug
- Letni bonus
- Dolgoročne spodbude
- Zdravstveno zavarovanje
- Zobozdravstveno zavarovanje
- Zavarovanje vida
- Načrt 401(k)
- Prispevek podjetja v načrt 401(k)
- Plačani prazniki
- Lastniški delež v zagonskem podjetju in pomemben tehnični vpliv
- Sodelovanje z izkušeno ekipo za infrastrukturo umetne inteligence