MWDN
MWDN
MWDN je tvrtka za IT usluge i razvoj softvera koja pomaže poduzećima u izgradnji i proširenju digitalnih proizvoda za web, mobilne i stolne platforme. Njezin interni inženjerski tim podržava realizaciju projekata za klijente kroz proširenje timova, namjenske razvojne timove i globalno zapošljavanje IT stručnjaka. S razvojnim centrima u srednjoj i istočnoj Europi, MWDN povezuje organizacije iz SAD-a, Europe i Izraela sa softverskim talentima za tehnološke projekte prilagođene njihovim potrebama i troškovima.

CUDA inženjer za inferenciju LLM-a (rad na daljinu, Uzbekistan)

Optimizirajte inferenciju LLM-a na modernim GPU-ovima radeći s CUDA kernelima i okvirima za posluživanje modela. Pridružite se MWDN-u na projektima AI sustava i računarstva visokih performansi.

Opis

  • Poboljšavati performanse inferencije LLM-a na modernim GPU-ovima.
  • Koristiti okvire za inferenciju i posluživanje modela kao što su vLLM, SGLang i TensorRT-LLM.
  • Ispitivati izvođenje na GPU-u, pristup memoriji, performanse kernela i uska grla inferencije.
  • Izrađivati, podešavati, otklanjati pogreške ili obrnuto analizirati CUDA kernele i niskorazinske GPU operacije.
  • Istraživati metode optimizacije množenja matrica, mehanizma attention i slojeva neuronskih mreža.
  • Provjeravati performanse sustava i pronalaziti načine za poboljšanje latencije, propusnosti i iskorištenosti GPU-a.
  • Rješavati zahtjevne probleme na području AI sustava i računarstva visokih performansi.
  • Provodeći praktične eksperimente, ispitivati ponašanje sustava na niskoj razini.

Zahtjevi

  • Imati bogato praktično iskustvo s CUDA-om i programiranjem GPU-a.
  • Temeljito poznavati arhitekturu GPU-a, memorijske hijerarhije, paralelno izvođenje i podešavanje performansi.
  • Imati iskustvo s inferencijom LLM-a, AI sustavima, GPU kernelima ili računarstvom visokih performansi.
  • Poznavati barem jedan od alata vLLM, SGLang, TensorRT-LLM, Triton ili FlashAttention.
  • Znati dijagnosticirati složene probleme s performansama i istraživati ponašanje sustava na niskoj razini.
  • Imati izražene vještine rješavanja problema.
  • Učinkovito komunicirati složene tehničke ideje na engleskom jeziku.
  • Doktorat ili istraživačko iskustvo iz računarstva, strojnog učenja, računalne arhitekture ili srodne discipline predstavljaju prednost.
  • Znanstvene publikacije, rad na projektima ili značajni doprinosi projektima otvorenog koda za GPU ili infrastrukturu LLM-a predstavljaju prednost.
  • Iskustvo s internim mehanizmima PyTorcha, distribuiranom inferencijom, kvantizacijom, podešavanjem KV predmemorije ili prilagođenim GPU kernelima predstavlja prednost.
  • Doprinosi repozitorijima vLLM, SGLang, Triton, FlashAttention ili srodnim repozitorijima predstavljaju prednost.

Pogodnosti

  • Provjera klijenata osmišljena za smanjenje rizika te pouzdane i pravodobne isplate.
  • Savjetovanje o karijeri i pomoć u prepoznavanju budućih prilika.
  • Pravni savjeti o samostalnom ugovaranju ili obrtu, porezima i srodnim pitanjima.
  • Tečajevi engleskog jezika i mogućnosti za profesionalni razvoj.
  • Aktivnosti za izgradnju timskog duha.
  • Fleksibilno radno vrijeme.
  • 29 dana plaćenog dopusta: 18 radnih dana godišnje uz državne blagdane.
  • 10 plaćenih dana za oporavak.
  • Financijska i pravna pomoć za samostalne ugovaratelje.
  • Besplatni tečajevi engleskog s izvornim govornicima ili ukrajinskim nastavnicima.
  • Namjenska HR podrška.
  • Upravljanje usmjereno na ljude uz malo birokracije.
  • Ugodna kultura tvrtke.

Povezani poslovi

Nema pronađenih poslova

Pokušajte prilagoditi ili očistiti filtre kako biste pronašli više prilika.