MWDN
MWDN
MWDN är ett IT-tjänste- och programvaruutvecklingsföretag som hjälper företag att bygga och vidareutveckla digitala produkter för webb-, mobil- och datorplattformar. Det interna ingenjörsteamet stödjer kundprojekt genom personalförstärkning, dedikerade utvecklingsteam och global IT-rekrytering. Med leveranscenter i Central- och Östeuropa sammanför MWDN organisationer i USA, Europa och Israel med programvarutalanger för skräddarsydda och kostnadsmedvetna teknikprojekt.

CUDA-ingenjör, LLM-inferens (distans, Uzbekistan)

Optimera inferens för stora språkmodeller på moderna GPU:er med CUDA-kärnor och ramverk för modellservering. Arbeta med MWDN i projekt inom AI-system och högpresterande datorsystem.

Beskrivning

  • Förbättra inferensprestandan för stora språkmodeller på moderna GPU:er.
  • Använd ramverk för inferens och modellservering, till exempel vLLM, SGLang och TensorRT-LLM.
  • Analysera GPU-exekvering, minnesåtkomst, kärnprestanda och flaskhalsar i inferensen.
  • Utveckla, trimma, felsöka eller bakåtutveckla CUDA-kärnor och lågnivåoperationer på GPU.
  • Undersök optimeringsmetoder för matrismultiplikation, attention och lager i neurala nätverk.
  • Jämför systemens prestanda och hitta sätt att förbättra svarstid, genomströmning och GPU-utnyttjande.
  • Ta dig an utmanande problem inom AI-system och högpresterande datorsystem.
  • Genomför praktiska experiment och undersök systemens beteende på låg nivå.

Krav

  • Ha gedigen praktisk erfarenhet av CUDA och GPU-programmering.
  • Ha djup förståelse för GPU-arkitektur, minneshierarkier, parallell exekvering och prestandaoptimering.
  • Ha erfarenhet av inferens för stora språkmodeller, AI-system, GPU-kärnor eller högpresterande datorsystem.
  • Känna till minst ett av följande: vLLM, SGLang, TensorRT-LLM, Triton eller FlashAttention.
  • Kunna diagnostisera komplexa prestandaproblem och undersöka systembeteende på låg nivå.
  • Ha god problemlösningsförmåga.
  • Kunna kommunicera komplexa tekniska idéer effektivt på engelska.
  • Doktorsexamen eller forskningsbakgrund inom datavetenskap, maskininlärning, datorarkitektur eller ett närliggande område är meriterande.
  • Forskningspublikationer, projektarbete eller betydande bidrag till öppen källkod inom GPU- eller LLM-infrastruktur är meriterande.
  • Erfarenhet av PyTorch-interna funktioner, distribuerad inferens, kvantisering, optimering av KV-cache eller anpassade GPU-kärnor är meriterande.
  • Bidrag till vLLM, SGLang, Triton, FlashAttention eller närliggande kodförråd är meriterande.

Förmåner

  • Kundgranskning som syftar till att minska risker och bidra till tillförlitliga betalningar i tid.
  • Karriärvägledning och hjälp med att hitta framtida möjligheter.
  • Juridisk rådgivning om uppdrag som självständig konsult eller enskild näringsverksamhet, skatter och närliggande frågor.
  • Engelskalektioner och möjligheter till professionell utveckling.
  • Teambyggande aktiviteter.
  • Flexibla arbetstider.
  • 29 betalda lediga dagar: 18 arbetsdagar per år samt nationella helgdagar.
  • 10 betalda återhämtningsdagar.
  • Ekonomisk och juridisk hjälp för självständiga konsulter.
  • Kostnadsfria engelskalektioner med personer som har engelska som modersmål eller ukrainska lärare.
  • Dedikerat HR-stöd.
  • Människoorienterat ledarskap med begränsad byråkrati.
  • En välkomnande företagskultur.

Relaterade jobb

Inga jobb hittades

Prova att justera eller rensa filtren för att hitta fler möjligheter.