Designworks Talent LLC je tvrtka za zapošljavanje i savjetovanje o talentima koja pruža usluge brzorastućim startupima i globalnim poduzećima. Osnovana 2009. godine, tvrtka spaja iskusne stručnjake za zapošljavanje s alatima koji koriste umjetnu inteligenciju kako bi podržala brže i ciljano zapošljavanje. Njezin rad obuhvaća cjelovite procese pronalaženja kandidata, zapošljavanje temeljeno na projektima i fleksibilne modele prema potrebi, uz skalabilne strategije zapošljavanja, operacije zapošljavanja, vodstvo korporativnog privlačenja talenata, pronalaženje kandidata utemeljeno na podacima i iskustvo kandidata. Pristup tima osmišljen je tako da organizacijama pruži prilagodljivu podršku kako se njihove potrebe za zapošljavanjem mijenjaju.
Glavni inženjer za inferenciju – hibridno u Bellevueju
Vodite razvoj produkcijskih sustava za posluživanje modela u tvrtki za AI infrastrukturu. Unapređujte iskorištenost GPU-a, latenciju, propusnost, skalabilnost i pouzdanost u velikim AI radnim opterećenjima.
Opis
- Gradite i upravljajte produkcijskim sustavima za posluživanje modela i inferenciju za AI radna opterećenja visoke propusnosti i niske latencije
- Optimizirajte infrastrukturu za inferenciju s obzirom na propusnost tokena, latenciju, skalabilnost i troškovnu učinkovitost za različite modele i radna opterećenja
- Dizajnirajte sustave koji učinkovito koriste GPU-ove uz istodobno pružanje ujednačenih performansi i pouzdanosti
- Unapređujte skalabilnost inferencijske platforme i operativnu zrelost kako raste potražnja korisnika
- Surađujte s timovima za treniranje AI-ja, performanse GPU-a, orkestraciju i infrastrukturu kako biste modele prebacili iz razvoja u produkciju
- Uspostavite nadzor, upozorenja i operativne prakse koje podupiru pouzdane inferencijske usluge
- Dijagnosticirajte i rješavajte probleme s performansama, pouzdanošću i kapacitetom u inferencijskim radnim opterećenjima
- Oblikujte arhitektonske odluke i inženjerske standarde tijekom razvoja platforme
Zahtjevi
- Iskustvo u izgradnji i upravljanju produkcijskim sustavima strojnog učenja za inferenciju ili posluživanje modela velikih razmjera
- Temeljito razumijevanje kompromisa između latencije, propusnosti, iskorištenosti memorije i troškovne učinkovitosti pri posluživanju velikih AI modela
- Iskustvo u dizajniranju pouzdanih distribuiranih sustava ili produkcijske infrastrukture
- Razumijevanje AI radnih opterećenja koja koriste GPU i izazova skaliranja inferencijskih sustava
- Čvrsti inženjerski temelji i sposobnost samostalnog preuzimanja složenih tehničkih problema
- Spremnost na rad u brzom okruženju u kojem se sustavi i procesi izgrađuju od temelja
- Iskustvo s modernim okvirima za posluživanje inferencije kao što su vLLM, SGLang, TensorRT-LLM, Triton Inference Server ili usporedive tehnologije
- Iskustvo u optimizaciji inferencijskih radnih opterećenja LLM-a ili platformi za posluživanje AI-ja velikih razmjera
- Iskustvo u upravljanju AI proizvodima temeljenima na API-ju ili produkcijskim uslugama velikog opsega
- Iskustvo s raspoređivanjem GPU resursa, distribuiranim sustavima, Kubernetesom ili platformama cloud infrastrukture
- Poznavanje kvantizacije, grupiranja zahtjeva, predmemoriranja ili ugađanja performansi
- Iskustvo u hyperscaleru, AI laboratoriju, pružatelju GPU clouda ili organizaciji za ML infrastrukturu velikih razmjera
- Potrebno je odobrenje za rad u SAD-u
- Sponzoriranje vize trenutačno nije dostupno
- Spremnost na hibridni rad u središtu Bellevueja u saveznoj državi Washington, uz najmanje tri dana tjedno u uredu nakon uspostave stalnog ureda
Pogodnosti
- Konkurentna osnovna plaća za tržište Bellevueja
- Povećanja na temelju zasluga
- Godišnji bonus
- Dugoročni poticaji
- Zdravstveno osiguranje
- Stomatološko osiguranje
- Osiguranje vida
- Plan 401(k)
- Doprinos tvrtke planu 401(k)
- Plaćeni blagdani
- Vlasnički udio u startupu i značajan tehnički utjecaj
- Suradnja s iskusnim timom za AI infrastrukturu