Designworks Talent LLC je náborová a poradenská spoločnosť v oblasti talentov, ktorá poskytuje služby rýchlo rastúcim startupom a globálnym podnikom. Spoločnosť bola založená v roku 2009 a spája skúsených náborových pracovníkov s nástrojmi využívajúcimi umelú inteligenciu, aby podporila rýchlejší a cielenejší nábor. Jej služby zahŕňajú komplexné vyhľadávanie kandidátov, nábor na báze projektov a flexibilné modely na požiadanie, ako aj škálovateľné náborové stratégie, náborové operácie, vedenie podnikového získavania talentov, získavanie kandidátov založené na dátach a skúsenosť kandidátov. Tento prístup je navrhnutý tak, aby organizáciám poskytoval prispôsobiteľnú podporu pri vývoji ich náborových potrieb.
Hlavný inžinier inferencie – hybridne v Bellevue
Veďte vývoj produkčných systémov na obsluhu modelov pre spoločnosť pôsobiacu v oblasti AI infraštruktúry. Zlepšujte využitie GPU, latenciu, priepustnosť, škálovateľnosť a spoľahlivosť pri rozsiahlych AI pracovných zaťaženiach.
Popis
- Budujte a prevádzkujte produkčné systémy na obsluhu modelov a inferenciu pre AI pracovné zaťaženia s vysokou priepustnosťou a nízkou latenciou
- Optimalizujte inferenčnú infraštruktúru z hľadiska priepustnosti tokenov, latencie, škálovateľnosti a nákladovej efektívnosti naprieč rôznymi modelmi a pracovnými zaťaženiami
- Navrhujte systémy, ktoré efektívne využívajú GPU a zároveň poskytujú konzistentný výkon a spoľahlivosť
- Rozvíjajte škálovateľnosť inferenčnej platformy a prevádzkovú vyspelosť s rastúcim dopytom zákazníkov
- Spolupracujte s tímami pre trénovanie AI, výkon GPU, orchestráciu a infraštruktúru s cieľom presúvať modely z vývoja do produkcie
- Zaveďte monitorovanie, upozornenia a prevádzkové postupy podporujúce spoľahlivé inferenčné služby
- Diagnostikujte a riešte problémy s výkonom, spoľahlivosťou a kapacitou v rámci inferenčných pracovných zaťažení
- Podieľajte sa na architektonických rozhodnutiach a tvorbe technických štandardov počas rozvoja platformy
Požiadavky
- Skúsenosti s budovaním a prevádzkou produkčných systémov strojového učenia na inferenciu alebo obsluhu modelov vo veľkom meradle
- Dobré pochopenie kompromisov medzi latenciou, priepustnosťou, využitím pamäte a nákladovou efektívnosťou pri obsluhe veľkých AI modelov
- Skúsenosti s návrhom spoľahlivých distribuovaných systémov alebo produkčnej infraštruktúry
- Pochopenie AI pracovných zaťažení využívajúcich GPU a problémov spojených so škálovaním inferenčných systémov
- Silné inžinierske základy a schopnosť samostatne riešiť komplexné technické problémy
- Ochota pracovať v rýchlo sa meniacom prostredí, kde sa systémy a procesy budujú od základov
- Skúsenosti s modernými frameworkmi na obsluhu inferencie, ako sú vLLM, SGLang, TensorRT-LLM, Triton Inference Server alebo porovnateľné technológie
- Skúsenosti s optimalizáciou inferenčných pracovných zaťažení LLM alebo platforiem na obsluhu AI vo veľkom meradle
- Skúsenosti s prevádzkou AI produktov založených na API alebo produkčných služieb s vysokou návštevnosťou
- Skúsenosti s plánovaním GPU, distribuovanými systémami, Kubernetes alebo cloudovými infraštruktúrnymi platformami
- Znalosť kvantizácie, dávkovania, cachovania alebo ladenia výkonu
- Skúsenosti z hyperscalera, AI laboratória, poskytovateľa GPU cloudu alebo organizácie zameranej na ML infraštruktúru vo veľkom meradle
- Vyžaduje sa oprávnenie na prácu v USA
- Sponzorstvo víz momentálne nie je k dispozícii
- Ochota pracovať v hybridnom režime v centre Bellevue v štáte Washington, pričom po zriadení stálej kancelárie sa vyžaduje prítomnosť v kancelárii aspoň tri dni týždenne
Benefity
- Konkurencieschopná základná mzda pre trh v Bellevue
- Zvýšenia na základe výkonu
- Ročný bonus
- Dlhodobé stimuly
- Zdravotné poistenie
- Zubné poistenie
- Poistenie zraku
- Plán 401(k)
- Príspevok spoločnosti do plánu 401(k)
- Platené sviatky
- Podiel na vlastníctve startupu a významný technický vplyv
- Spolupráca so skúseným tímom pre AI infraštruktúru