
MWDN er et selskap innen IT-tjenester og programvareutvikling som hjelper bedrifter med å bygge og videreutvikle digitale produkter for nett-, mobil- og desktopplattformer. Det interne ingeniørteamet støtter kundeleveranser gjennom bemanningsforsterkning, dedikerte utviklingsteam og global IT-rekruttering. Med leveransesentre i Sentral- og Øst-Europa kobler MWDN organisasjoner i USA, Europa og Israel med programvaretalenter for skreddersydde og kostnadsbevisste teknologiprosjekter.
CUDA-ingeniør, LLM-inferens (fjernarbeid, Usbekistan)
Optimaliser inferens for store språkmodeller på moderne GPU-er med CUDA-kjerner og rammeverk for modellservering. Jobb med AI-systemer og høyytelses databehandling hos MWDN.
Beskrivelse
- Forbedre inferensytelsen for store språkmodeller på moderne GPU-er.
- Bruk rammeverk for inferens og modellservering som vLLM, SGLang og TensorRT-LLM.
- Undersøk GPU-kjøring, minnetilgang, kjerneytelse og flaskehalser i inferensen.
- Utvikle, finjustere, feilsøke eller reverse-engineere CUDA-kjerner og GPU-operasjoner på lavt nivå.
- Undersøk optimaliseringsmetoder for matrisemultiplikasjon, attention og lag i nevrale nettverk.
- Benchmark systemer og finn måter å forbedre latenstid, gjennomstrømning og GPU-utnyttelse på.
- Ta fatt på krevende problemer innen AI-systemer og høyytelses databehandling.
- Gjennomfør praktiske eksperimenter og undersøk systematferd på lavt nivå.
Krav
- Du har solid praktisk erfaring med CUDA og GPU-programmering.
- Du har inngående forståelse av GPU-arkitektur, minnehierarkier, parallell kjøring og ytelsesoptimalisering.
- Du har erfaring med inferens for store språkmodeller, AI-systemer, GPU-kjerner eller høyytelses databehandling.
- Du kjenner til minst ett av følgende: vLLM, SGLang, TensorRT-LLM, Triton eller FlashAttention.
- Du kan diagnostisere komplekse ytelsesproblemer og undersøke systematferd på lavt nivå.
- Du har gode evner til problemløsning.
- Du kan formidle komplekse tekniske ideer effektivt på engelsk.
- Doktorgrad eller forskningsbakgrunn innen informatikk, maskinlæring, dataarkitektur eller et beslektet fagområde er en fordel.
- Forskningspublikasjoner, prosjektarbeid eller betydelige bidrag til åpen kildekode innen GPU- eller LLM-infrastruktur er en fordel.
- Erfaring med PyTorch-internals, distribuert inferens, kvantisering, tuning av KV-cache eller spesialtilpassede GPU-kjerner er en fordel.
- Bidrag til vLLM, SGLang, Triton, FlashAttention eller relaterte kodebaser er en fordel.
Fordeler
- Kundevurdering som skal redusere risiko og bidra til pålitelige betalinger til rett tid.
- Karriereveiledning og hjelp med å finne framtidige muligheter.
- Juridisk rådgivning om selvstendige konsulentoppdrag eller enkeltpersonforetak, skatt og relaterte forhold.
- Engelskundervisning og muligheter for faglig utvikling.
- Teambyggingsaktiviteter.
- Fleksibel arbeidstid.
- 29 betalte fridager: 18 arbeidsdager per år samt nasjonale helligdager.
- 10 betalte restitusjonsdager.
- Økonomisk og juridisk bistand for selvstendige konsulenter.
- Gratis engelskundervisning med personer som har engelsk som morsmål eller ukrainske lærere.
- Dedikert HR-bistand.
- Menneskefokusert ledelse med lite byråkrati.
- En inkluderende bedriftskultur.
Relaterte jobber
Ingen jobber funnet
Prøv å justere eller tømme filtrene for å finne flere muligheter.