
MWDN er en virksomhed inden for IT-tjenester og softwareudvikling, som hjælper virksomheder med at udvikle og videreudvikle digitale produkter til web-, mobil- og desktopplatforme. Det interne ingeniørteam understøtter kundeprojekter gennem ekstra bemanding, dedikerede udviklingsteams og global IT-rekruttering. Med leveringscentre i Central- og Østeuropa forbinder MWDN organisationer i USA, Europa og Israel med softwaretalenter til skræddersyede og omkostningsbevidste teknologiprojekter.
CUDA-ingeniør, LLM-inferens (fjernarbejde, Usbekistan)
Optimér inferens af store sprogmodeller på moderne GPU'er med CUDA-kerner og frameworks til modelafvikling. Bliv en del af MWDN, og arbejd med AI-systemer og højtydende databehandling.
Beskrivelse
- Forbedr inferensydelsen for store sprogmodeller på moderne GPU'er.
- Brug frameworks til inferens og modelafvikling som vLLM, SGLang og TensorRT-LLM.
- Undersøg GPU-eksekvering, hukommelsesadgang, kerneydelse og flaskehalse i inferensen.
- Udvikl, finjustér, fejlfind eller reverse-engineer CUDA-kerner og GPU-operationer på lavt niveau.
- Undersøg optimeringsmetoder for matrixmultiplikation, attention og lag i neurale netværk.
- Benchmark systemer, og find måder at forbedre latenstid, gennemløb og GPU-udnyttelse på.
- Tag fat på krævende problemer inden for AI-systemer og højtydende databehandling.
- Udfør praktiske eksperimenter, og undersøg systemernes adfærd på lavt niveau.
Krav
- Du har solid praktisk erfaring med CUDA og GPU-programmering.
- Du har dyb forståelse for GPU-arkitektur, hukommelseshierarkier, parallel eksekvering og ydelsesoptimering.
- Du har erfaring med inferens af store sprogmodeller, AI-systemer, GPU-kerner eller højtydende databehandling.
- Du kender mindst ét af følgende: vLLM, SGLang, TensorRT-LLM, Triton eller FlashAttention.
- Du kan diagnosticere komplekse ydelsesproblemer og undersøge systemadfærd på lavt niveau.
- Du har stærke evner inden for problemløsning.
- Du kan kommunikere komplekse tekniske idéer effektivt på engelsk.
- En ph.d. eller forskningsbaggrund inden for datalogi, maskinlæring, computerarkitektur eller et beslægtet fagområde er en fordel.
- Forskningspublikationer, projektarbejde eller væsentlige bidrag til open source inden for GPU- eller LLM-infrastruktur er en fordel.
- Erfaring med PyTorch-internals, distribueret inferens, kvantisering, tuning af KV-cache eller specialudviklede GPU-kerner er en fordel.
- Bidrag til vLLM, SGLang, Triton, FlashAttention eller relaterede repositories er en fordel.
Fordele
- Kundevurdering, der skal mindske risikoen og understøtte pålidelige betalinger til tiden.
- Karrierevejledning og hjælp til at finde fremtidige muligheder.
- Juridisk rådgivning om selvstændige konsulentopgaver eller enkeltmandsvirksomhed, skat og relaterede forhold.
- Engelskundervisning og muligheder for faglig udvikling.
- Teambuildingaktiviteter.
- Fleksible arbejdstider.
- 29 betalte fridage: 18 arbejdsdage om året samt nationale helligdage.
- 10 betalte restitutionsdage.
- Økonomisk og juridisk hjælp til selvstændige konsulenter.
- Gratis engelskundervisning med personer, der har engelsk som modersmål, eller ukrainske undervisere.
- Dedikeret HR-hjælp.
- Menneskefokuseret ledelse med begrænset bureaukrati.
- En imødekommende virksomhedskultur.
Relaterede job
Ingen job fundet
Prøv at justere eller rydde filtrene for at finde flere muligheder.