
MWDN is een IT-dienstverlenings- en softwareontwikkelingsbedrijf dat organisaties helpt digitale producten voor web-, mobiele en desktopplatforms te bouwen en uit te breiden. Het interne engineeringteam ondersteunt de uitvoering van klantprojecten met personeelsuitbreiding, toegewijde ontwikkelingsteams en wereldwijde IT-werving. Vanuit deliverycentra in Centraal- en Oost-Europa brengt MWDN organisaties in de Verenigde Staten, Europa en Israël in contact met softwaretalent voor technologieprojecten op maat en met oog voor kosten.
CUDA-engineer voor LLM-inferentie (remote, Oezbekistan)
Optimaliseer LLM-inferentie op moderne GPU's met CUDA-kernels en servingframeworks. Werk bij MWDN aan AI-systemen en projecten voor high-performance computing.
Beschrijving
- Verbeter de prestaties van LLM-inferentie op moderne GPU's.
- Werk met inferentie- en servingframeworks zoals vLLM, SGLang en TensorRT-LLM.
- Onderzoek GPU-uitvoering, geheugentoegang, kernelprestaties en knelpunten bij inferentie.
- Ontwikkel, optimaliseer, debug of reverse-engineer CUDA-kernels en GPU-bewerkingen op laag niveau.
- Onderzoek optimalisatiemethoden voor matrixvermenigvuldiging, attention en neurale netwerklagen.
- Benchmark systemen en zoek naar manieren om latentie, doorvoer en GPU-benutting te verbeteren.
- Pak uitdagende problemen aan op het gebied van AI-systemen en high-performance computing.
- Voer praktische experimenten uit en onderzoek systeemgedrag op laag niveau.
Vereisten
- Je hebt ruime praktische ervaring met CUDA en GPU-programmering.
- Je hebt diepgaande kennis van GPU-architectuur, geheugenhiërarchieën, parallelle uitvoering en prestatietuning.
- Je hebt ervaring met LLM-inferentie, AI-systemen, GPU-kernels of high-performance computing.
- Je kent minstens één van deze technologieën: vLLM, SGLang, TensorRT-LLM, Triton of FlashAttention.
- Je kunt complexe prestatieproblemen diagnosticeren en systeemgedrag op laag niveau onderzoeken.
- Je beschikt over sterke probleemoplossende vaardigheden.
- Je kunt complexe technische ideeën helder in het Engels overbrengen.
- Een PhD of onderzoeksachtergrond in informatica, machine learning, computerarchitectuur of een verwant vakgebied is een pluspunt.
- Onderzoekspublicaties, projectwerk of substantiële open-sourcebijdragen aan GPU- of LLM-infrastructuur zijn een pluspunt.
- Ervaring met de internals van PyTorch, gedistribueerde inferentie, kwantisering, tuning van de KV-cache of aangepaste GPU-kernels is een pluspunt.
- Bijdragen aan vLLM, SGLang, Triton, FlashAttention of verwante repositories zijn een pluspunt.
Voordelen
- Screening van klanten die risico's moet beperken en betrouwbare, tijdige betalingen moet ondersteunen.
- Loopbaanadvies en hulp bij het vinden van toekomstige kansen.
- Juridisch advies over zelfstandig ondernemerschap, belastingen en aanverwante zaken.
- Engelse les en mogelijkheden voor professionele ontwikkeling.
- Teambuildingactiviteiten.
- Flexibele werktijden.
- 29 betaalde vrije dagen: 18 werkdagen per jaar plus nationale feestdagen.
- 10 betaalde hersteldagen.
- Financiële en juridische ondersteuning voor zelfstandigen.
- Gratis Engelse les van native speakers of Oekraïense docenten.
- Persoonlijke HR-ondersteuning.
- Mensgerichte leiding met weinig bureaucratie.
- Een gastvrije bedrijfscultuur.
Gerelateerde vacatures
Geen vacatures gevonden
Pas je filters aan of wis ze om meer mogelijkheden te vinden.