
MWDN je společnost poskytující IT služby a vyvíjející software, která pomáhá firmám vytvářet a rozšiřovat digitální produkty pro webové, mobilní a desktopové platformy. Její vlastní inženýrský tým podporuje realizaci klientských projektů prostřednictvím doplňování týmů, dedikovaných vývojových týmů a globálního náboru IT specialistů. Díky vývojovým centrům ve střední a východní Evropě propojuje MWDN organizace z USA, Evropy a Izraele s talentovanými odborníky na software pro technologické projekty přizpůsobené jejich potřebám a rozpočtu.
Inženýr CUDA, inference LLM (práce na dálku, Uzbekistán)
Optimalizujte inferenci LLM na moderních GPU a pracujte s jádry CUDA a frameworky pro obsluhu modelů. Připojte se k MWDN a podílejte se na projektech v oblasti systémů AI a vysoce výkonných výpočtů.
Popis
- Zvyšujte výkon inference LLM na moderních GPU.
- Používejte frameworky pro inferenci a obsluhu modelů, jako jsou vLLM, SGLang a TensorRT-LLM.
- Analyzujte provádění úloh na GPU, přístup k paměti, výkon jader a úzká místa inference.
- Vytvářejte, dolaďujte, laděte nebo zpětně analyzujte jádra CUDA a nízkoúrovňové operace GPU.
- Zkoumejte metody optimalizace násobení matic, mechanismů pozornosti a vrstev neuronových sítí.
- Provádějte výkonnostní testy systémů a hledejte způsoby, jak zlepšit latenci, propustnost a využití GPU.
- Řešte náročné problémy na pomezí systémů AI a vysoce výkonných výpočtů.
- Provádějte praktické experimenty a zkoumejte nízkoúrovňové chování systémů.
Požadavky
- Máte rozsáhlé praktické zkušenosti s CUDA a programováním GPU.
- Hloubkově rozumíte architektuře GPU, hierarchii paměti, paralelnímu vykonávání a ladění výkonu.
- Máte zkušenosti s inferencí LLM, systémy AI, jádry GPU nebo vysoce výkonnými výpočty.
- Znáte alespoň jeden z nástrojů vLLM, SGLang, TensorRT-LLM, Triton nebo FlashAttention.
- Dokážete diagnostikovat složité problémy s výkonem a zkoumat nízkoúrovňové chování systémů.
- Máte výborné schopnosti řešit problémy.
- Dokážete efektivně komunikovat složité technické myšlenky v angličtině.
- Doktorát nebo výzkumná praxe v informatice, strojovém učení, architektuře počítačů či příbuzném oboru jsou výhodou.
- Vědecké publikace, projektová práce nebo významné příspěvky do open-source projektů zaměřených na infrastrukturu GPU či LLM jsou výhodou.
- Zkušenosti s interními mechanismy PyTorch, distribuovanou inferencí, kvantizací, laděním KV cache nebo vlastními jádry GPU jsou výhodou.
- Příspěvky do vLLM, SGLang, Triton, FlashAttention nebo souvisejících repozitářů jsou výhodou.
Benefity
- Prověřování klientů s cílem omezit rizika a podpořit spolehlivé a včasné platby.
- Kariérní poradenství a pomoc s hledáním budoucích příležitostí.
- Právní poradenství k práci na volné noze nebo podnikání jako OSVČ, daním a souvisejícím záležitostem.
- Lekce angličtiny a příležitosti k profesnímu rozvoji.
- Týmové akce.
- Flexibilní pracovní doba.
- 29 dní placeného volna: 18 pracovních dní ročně plus státní svátky.
- 10 placených dní na zotavení.
- Finanční a právní podpora pro nezávislé dodavatele.
- Bezplatné lekce angličtiny s rodilými mluvčími nebo ukrajinskými učiteli.
- Vyhrazená podpora HR.
- Vedení, které klade lidi na první místo, a omezená byrokracie.
- Přívětivá firemní kultura.
Související pracovní nabídky
Nebyly nalezeny žádné pracovní nabídky
Zkuste upravit nebo vymazat filtry a najít další příležitosti.