
MWDN je spoločnosť poskytujúca IT služby a vývoj softvéru, ktorá pomáha firmám vytvárať a rozširovať digitálne produkty pre webové, mobilné a desktopové platformy. Jej interný tím inžinierov podporuje realizáciu projektov pre klientov prostredníctvom posilňovania tímov, špecializovaných vývojových tímov a globálneho náboru IT pracovníkov. Vďaka vývojovým centrám v strednej a východnej Európe spája MWDN organizácie z USA, Európy a Izraela so softvérovými odborníkmi pre technologické projekty prispôsobené ich potrebám a rozpočtu.
CUDA inžinier pre inferenciu LLM (práca na diaľku, Uzbekistan)
Optimalizujte inferenciu LLM na moderných GPU pomocou CUDA kernelov a frameworkov na obsluhu modelov. Pridajte sa k MWDN na projektoch systémov umelej inteligencie a vysokovýkonného počítania.
Popis
- Zlepšovať výkon inferencie LLM na moderných GPU.
- Používať frameworky na inferenciu a obsluhu modelov, ako sú vLLM, SGLang a TensorRT-LLM.
- Skúmať vykonávanie na GPU, prístup do pamäte, výkon kernelov a úzke miesta inferencie.
- Vytvárať, optimalizovať, ladiť alebo spätne analyzovať CUDA kernely a nízkoúrovňové operácie GPU.
- Skúmať metódy optimalizácie násobenia matíc, mechanizmu attention a vrstiev neurónových sietí.
- Vykonávať benchmarky systémov a hľadať spôsoby, ako zlepšiť latenciu, priepustnosť a využitie GPU.
- Riešiť náročné problémy na pomedzí systémov umelej inteligencie a vysokovýkonného počítania.
- Vykonávať praktické experimenty a skúmať správanie systému na nízkej úrovni.
Požiadavky
- Mať rozsiahle praktické skúsenosti s CUDA a programovaním GPU.
- Dôkladne rozumieť architektúre GPU, hierarchii pamäte, paralelnému vykonávaniu a optimalizácii výkonu.
- Mať skúsenosti s inferenciou LLM, systémami umelej inteligencie, GPU kernelmi alebo vysokovýkonným počítaním.
- Poznať aspoň jeden z nástrojov vLLM, SGLang, TensorRT-LLM, Triton alebo FlashAttention.
- Vedieť diagnostikovať zložité problémy s výkonom a skúmať správanie systému na nízkej úrovni.
- Uplatňovať výborné schopnosti riešenia problémov.
- Efektívne komunikovať zložité technické myšlienky v angličtine.
- Doktorát alebo výskumné zázemie v informatike, strojovom učení, počítačovej architektúre alebo príbuznom odbore je výhodou.
- Výhodou sú vedecké publikácie, projektová práca alebo významné príspevky do open-source projektov zameraných na GPU alebo infraštruktúru LLM.
- Výhodou sú skúsenosti s internými mechanizmami PyTorch, distribuovanou inferenciou, kvantizáciou, ladením KV cache alebo vlastnými GPU kernelmi.
- Výhodou sú príspevky do repozitárov vLLM, SGLang, Triton, FlashAttention alebo súvisiacich projektov.
Benefity
- Preverovanie klientov navrhnuté tak, aby znižovalo riziko a podporovalo spoľahlivé a včasné platby.
- Kariérne poradenstvo a pomoc pri hľadaní budúcich príležitostí.
- Právne poradenstvo v oblasti nezávislej zmluvnej spolupráce alebo živnosti, daní a súvisiacich záležitostí.
- Lekcie angličtiny a možnosti profesijného rozvoja.
- Teambuildingové aktivity.
- Flexibilný pracovný čas.
- 29 dní plateného voľna: 18 pracovných dní ročne a štátne sviatky.
- 10 platených dní na zotavenie.
- Finančná a právna pomoc pre nezávislých dodávateľov.
- Bezplatné lekcie angličtiny s rodenými hovoriacimi alebo ukrajinskými učiteľmi.
- Vyhradená podpora HR.
- Vedenie zamerané na ľudí s obmedzenou byrokraciou.
- Prívetivá firemná kultúra.
Súvisiace pracovné ponuky
Nenašli sa žiadne pracovné ponuky
Skúste upraviť alebo vymazať filtre a nájsť ďalšie príležitosti.