MWDN
MWDN
MWDN er et selskap innen IT-tjenester og programvareutvikling som hjelper bedrifter med å bygge og videreutvikle digitale produkter for nett-, mobil- og desktopplattformer. Det interne ingeniørteamet støtter kundeleveranser gjennom bemanningsforsterkning, dedikerte utviklingsteam og global IT-rekruttering. Med leveransesentre i Sentral- og Øst-Europa kobler MWDN organisasjoner i USA, Europa og Israel med programvaretalenter for skreddersydde og kostnadsbevisste teknologiprosjekter.

CUDA-ingeniør, LLM-inferens (fjernarbeid, Usbekistan)

Optimaliser inferens for store språkmodeller på moderne GPU-er med CUDA-kjerner og rammeverk for modellservering. Jobb med AI-systemer og høyytelses databehandling hos MWDN.

Beskrivelse

  • Forbedre inferensytelsen for store språkmodeller på moderne GPU-er.
  • Bruk rammeverk for inferens og modellservering som vLLM, SGLang og TensorRT-LLM.
  • Undersøk GPU-kjøring, minnetilgang, kjerneytelse og flaskehalser i inferensen.
  • Utvikle, finjustere, feilsøke eller reverse-engineere CUDA-kjerner og GPU-operasjoner på lavt nivå.
  • Undersøk optimaliseringsmetoder for matrisemultiplikasjon, attention og lag i nevrale nettverk.
  • Benchmark systemer og finn måter å forbedre latenstid, gjennomstrømning og GPU-utnyttelse på.
  • Ta fatt på krevende problemer innen AI-systemer og høyytelses databehandling.
  • Gjennomfør praktiske eksperimenter og undersøk systematferd på lavt nivå.

Krav

  • Du har solid praktisk erfaring med CUDA og GPU-programmering.
  • Du har inngående forståelse av GPU-arkitektur, minnehierarkier, parallell kjøring og ytelsesoptimalisering.
  • Du har erfaring med inferens for store språkmodeller, AI-systemer, GPU-kjerner eller høyytelses databehandling.
  • Du kjenner til minst ett av følgende: vLLM, SGLang, TensorRT-LLM, Triton eller FlashAttention.
  • Du kan diagnostisere komplekse ytelsesproblemer og undersøke systematferd på lavt nivå.
  • Du har gode evner til problemløsning.
  • Du kan formidle komplekse tekniske ideer effektivt på engelsk.
  • Doktorgrad eller forskningsbakgrunn innen informatikk, maskinlæring, dataarkitektur eller et beslektet fagområde er en fordel.
  • Forskningspublikasjoner, prosjektarbeid eller betydelige bidrag til åpen kildekode innen GPU- eller LLM-infrastruktur er en fordel.
  • Erfaring med PyTorch-internals, distribuert inferens, kvantisering, tuning av KV-cache eller spesialtilpassede GPU-kjerner er en fordel.
  • Bidrag til vLLM, SGLang, Triton, FlashAttention eller relaterte kodebaser er en fordel.

Fordeler

  • Kundevurdering som skal redusere risiko og bidra til pålitelige betalinger til rett tid.
  • Karriereveiledning og hjelp med å finne framtidige muligheter.
  • Juridisk rådgivning om selvstendige konsulentoppdrag eller enkeltpersonforetak, skatt og relaterte forhold.
  • Engelskundervisning og muligheter for faglig utvikling.
  • Teambyggingsaktiviteter.
  • Fleksibel arbeidstid.
  • 29 betalte fridager: 18 arbeidsdager per år samt nasjonale helligdager.
  • 10 betalte restitusjonsdager.
  • Økonomisk og juridisk bistand for selvstendige konsulenter.
  • Gratis engelskundervisning med personer som har engelsk som morsmål eller ukrainske lærere.
  • Dedikert HR-bistand.
  • Menneskefokusert ledelse med lite byråkrati.
  • En inkluderende bedriftskultur.

Relaterte jobber

Ingen jobber funnet

Prøv å justere eller tømme filtrene for å finne flere muligheter.