
MWDN je tvrtka za IT usluge i razvoj softvera koja pomaže poduzećima u izgradnji i proširenju digitalnih proizvoda za web, mobilne i stolne platforme. Njezin interni inženjerski tim podržava realizaciju projekata za klijente kroz proširenje timova, namjenske razvojne timove i globalno zapošljavanje IT stručnjaka. S razvojnim centrima u srednjoj i istočnoj Europi, MWDN povezuje organizacije iz SAD-a, Europe i Izraela sa softverskim talentima za tehnološke projekte prilagođene njihovim potrebama i troškovima.
CUDA inženjer za inferenciju LLM-a (rad na daljinu, Uzbekistan)
Optimizirajte inferenciju LLM-a na modernim GPU-ovima radeći s CUDA kernelima i okvirima za posluživanje modela. Pridružite se MWDN-u na projektima AI sustava i računarstva visokih performansi.
Opis
- Poboljšavati performanse inferencije LLM-a na modernim GPU-ovima.
- Koristiti okvire za inferenciju i posluživanje modela kao što su vLLM, SGLang i TensorRT-LLM.
- Ispitivati izvođenje na GPU-u, pristup memoriji, performanse kernela i uska grla inferencije.
- Izrađivati, podešavati, otklanjati pogreške ili obrnuto analizirati CUDA kernele i niskorazinske GPU operacije.
- Istraživati metode optimizacije množenja matrica, mehanizma attention i slojeva neuronskih mreža.
- Provjeravati performanse sustava i pronalaziti načine za poboljšanje latencije, propusnosti i iskorištenosti GPU-a.
- Rješavati zahtjevne probleme na području AI sustava i računarstva visokih performansi.
- Provodeći praktične eksperimente, ispitivati ponašanje sustava na niskoj razini.
Zahtjevi
- Imati bogato praktično iskustvo s CUDA-om i programiranjem GPU-a.
- Temeljito poznavati arhitekturu GPU-a, memorijske hijerarhije, paralelno izvođenje i podešavanje performansi.
- Imati iskustvo s inferencijom LLM-a, AI sustavima, GPU kernelima ili računarstvom visokih performansi.
- Poznavati barem jedan od alata vLLM, SGLang, TensorRT-LLM, Triton ili FlashAttention.
- Znati dijagnosticirati složene probleme s performansama i istraživati ponašanje sustava na niskoj razini.
- Imati izražene vještine rješavanja problema.
- Učinkovito komunicirati složene tehničke ideje na engleskom jeziku.
- Doktorat ili istraživačko iskustvo iz računarstva, strojnog učenja, računalne arhitekture ili srodne discipline predstavljaju prednost.
- Znanstvene publikacije, rad na projektima ili značajni doprinosi projektima otvorenog koda za GPU ili infrastrukturu LLM-a predstavljaju prednost.
- Iskustvo s internim mehanizmima PyTorcha, distribuiranom inferencijom, kvantizacijom, podešavanjem KV predmemorije ili prilagođenim GPU kernelima predstavlja prednost.
- Doprinosi repozitorijima vLLM, SGLang, Triton, FlashAttention ili srodnim repozitorijima predstavljaju prednost.
Pogodnosti
- Provjera klijenata osmišljena za smanjenje rizika te pouzdane i pravodobne isplate.
- Savjetovanje o karijeri i pomoć u prepoznavanju budućih prilika.
- Pravni savjeti o samostalnom ugovaranju ili obrtu, porezima i srodnim pitanjima.
- Tečajevi engleskog jezika i mogućnosti za profesionalni razvoj.
- Aktivnosti za izgradnju timskog duha.
- Fleksibilno radno vrijeme.
- 29 dana plaćenog dopusta: 18 radnih dana godišnje uz državne blagdane.
- 10 plaćenih dana za oporavak.
- Financijska i pravna pomoć za samostalne ugovaratelje.
- Besplatni tečajevi engleskog s izvornim govornicima ili ukrajinskim nastavnicima.
- Namjenska HR podrška.
- Upravljanje usmjereno na ljude uz malo birokracije.
- Ugodna kultura tvrtke.
Povezani poslovi
Nema pronađenih poslova
Pokušajte prilagoditi ili očistiti filtre kako biste pronašli više prilika.