MWDN
MWDN
MWDN je spoločnosť poskytujúca IT služby a vývoj softvéru, ktorá pomáha firmám vytvárať a rozširovať digitálne produkty pre webové, mobilné a desktopové platformy. Jej interný tím inžinierov podporuje realizáciu projektov pre klientov prostredníctvom posilňovania tímov, špecializovaných vývojových tímov a globálneho náboru IT pracovníkov. Vďaka vývojovým centrám v strednej a východnej Európe spája MWDN organizácie z USA, Európy a Izraela so softvérovými odborníkmi pre technologické projekty prispôsobené ich potrebám a rozpočtu.

CUDA inžinier pre inferenciu LLM (práca na diaľku, Uzbekistan)

Optimalizujte inferenciu LLM na moderných GPU pomocou CUDA kernelov a frameworkov na obsluhu modelov. Pridajte sa k MWDN na projektoch systémov umelej inteligencie a vysokovýkonného počítania.

Popis

  • Zlepšovať výkon inferencie LLM na moderných GPU.
  • Používať frameworky na inferenciu a obsluhu modelov, ako sú vLLM, SGLang a TensorRT-LLM.
  • Skúmať vykonávanie na GPU, prístup do pamäte, výkon kernelov a úzke miesta inferencie.
  • Vytvárať, optimalizovať, ladiť alebo spätne analyzovať CUDA kernely a nízkoúrovňové operácie GPU.
  • Skúmať metódy optimalizácie násobenia matíc, mechanizmu attention a vrstiev neurónových sietí.
  • Vykonávať benchmarky systémov a hľadať spôsoby, ako zlepšiť latenciu, priepustnosť a využitie GPU.
  • Riešiť náročné problémy na pomedzí systémov umelej inteligencie a vysokovýkonného počítania.
  • Vykonávať praktické experimenty a skúmať správanie systému na nízkej úrovni.

Požiadavky

  • Mať rozsiahle praktické skúsenosti s CUDA a programovaním GPU.
  • Dôkladne rozumieť architektúre GPU, hierarchii pamäte, paralelnému vykonávaniu a optimalizácii výkonu.
  • Mať skúsenosti s inferenciou LLM, systémami umelej inteligencie, GPU kernelmi alebo vysokovýkonným počítaním.
  • Poznať aspoň jeden z nástrojov vLLM, SGLang, TensorRT-LLM, Triton alebo FlashAttention.
  • Vedieť diagnostikovať zložité problémy s výkonom a skúmať správanie systému na nízkej úrovni.
  • Uplatňovať výborné schopnosti riešenia problémov.
  • Efektívne komunikovať zložité technické myšlienky v angličtine.
  • Doktorát alebo výskumné zázemie v informatike, strojovom učení, počítačovej architektúre alebo príbuznom odbore je výhodou.
  • Výhodou sú vedecké publikácie, projektová práca alebo významné príspevky do open-source projektov zameraných na GPU alebo infraštruktúru LLM.
  • Výhodou sú skúsenosti s internými mechanizmami PyTorch, distribuovanou inferenciou, kvantizáciou, ladením KV cache alebo vlastnými GPU kernelmi.
  • Výhodou sú príspevky do repozitárov vLLM, SGLang, Triton, FlashAttention alebo súvisiacich projektov.

Benefity

  • Preverovanie klientov navrhnuté tak, aby znižovalo riziko a podporovalo spoľahlivé a včasné platby.
  • Kariérne poradenstvo a pomoc pri hľadaní budúcich príležitostí.
  • Právne poradenstvo v oblasti nezávislej zmluvnej spolupráce alebo živnosti, daní a súvisiacich záležitostí.
  • Lekcie angličtiny a možnosti profesijného rozvoja.
  • Teambuildingové aktivity.
  • Flexibilný pracovný čas.
  • 29 dní plateného voľna: 18 pracovných dní ročne a štátne sviatky.
  • 10 platených dní na zotavenie.
  • Finančná a právna pomoc pre nezávislých dodávateľov.
  • Bezplatné lekcie angličtiny s rodenými hovoriacimi alebo ukrajinskými učiteľmi.
  • Vyhradená podpora HR.
  • Vedenie zamerané na ľudí s obmedzenou byrokraciou.
  • Prívetivá firemná kultúra.

Súvisiace pracovné ponuky

Nenašli sa žiadne pracovné ponuky

Skúste upraviť alebo vymazať filtre a nájsť ďalšie príležitosti.