
MWDN är ett IT-tjänste- och programvaruutvecklingsföretag som hjälper företag att bygga och vidareutveckla digitala produkter för webb-, mobil- och datorplattformar. Det interna ingenjörsteamet stödjer kundprojekt genom personalförstärkning, dedikerade utvecklingsteam och global IT-rekrytering. Med leveranscenter i Central- och Östeuropa sammanför MWDN organisationer i USA, Europa och Israel med programvarutalanger för skräddarsydda och kostnadsmedvetna teknikprojekt.
CUDA-ingenjör, LLM-inferens (distans, Uzbekistan)
Optimera inferens för stora språkmodeller på moderna GPU:er med CUDA-kärnor och ramverk för modellservering. Arbeta med MWDN i projekt inom AI-system och högpresterande datorsystem.
Beskrivning
- Förbättra inferensprestandan för stora språkmodeller på moderna GPU:er.
- Använd ramverk för inferens och modellservering, till exempel vLLM, SGLang och TensorRT-LLM.
- Analysera GPU-exekvering, minnesåtkomst, kärnprestanda och flaskhalsar i inferensen.
- Utveckla, trimma, felsöka eller bakåtutveckla CUDA-kärnor och lågnivåoperationer på GPU.
- Undersök optimeringsmetoder för matrismultiplikation, attention och lager i neurala nätverk.
- Jämför systemens prestanda och hitta sätt att förbättra svarstid, genomströmning och GPU-utnyttjande.
- Ta dig an utmanande problem inom AI-system och högpresterande datorsystem.
- Genomför praktiska experiment och undersök systemens beteende på låg nivå.
Krav
- Ha gedigen praktisk erfarenhet av CUDA och GPU-programmering.
- Ha djup förståelse för GPU-arkitektur, minneshierarkier, parallell exekvering och prestandaoptimering.
- Ha erfarenhet av inferens för stora språkmodeller, AI-system, GPU-kärnor eller högpresterande datorsystem.
- Känna till minst ett av följande: vLLM, SGLang, TensorRT-LLM, Triton eller FlashAttention.
- Kunna diagnostisera komplexa prestandaproblem och undersöka systembeteende på låg nivå.
- Ha god problemlösningsförmåga.
- Kunna kommunicera komplexa tekniska idéer effektivt på engelska.
- Doktorsexamen eller forskningsbakgrund inom datavetenskap, maskininlärning, datorarkitektur eller ett närliggande område är meriterande.
- Forskningspublikationer, projektarbete eller betydande bidrag till öppen källkod inom GPU- eller LLM-infrastruktur är meriterande.
- Erfarenhet av PyTorch-interna funktioner, distribuerad inferens, kvantisering, optimering av KV-cache eller anpassade GPU-kärnor är meriterande.
- Bidrag till vLLM, SGLang, Triton, FlashAttention eller närliggande kodförråd är meriterande.
Förmåner
- Kundgranskning som syftar till att minska risker och bidra till tillförlitliga betalningar i tid.
- Karriärvägledning och hjälp med att hitta framtida möjligheter.
- Juridisk rådgivning om uppdrag som självständig konsult eller enskild näringsverksamhet, skatter och närliggande frågor.
- Engelskalektioner och möjligheter till professionell utveckling.
- Teambyggande aktiviteter.
- Flexibla arbetstider.
- 29 betalda lediga dagar: 18 arbetsdagar per år samt nationella helgdagar.
- 10 betalda återhämtningsdagar.
- Ekonomisk och juridisk hjälp för självständiga konsulter.
- Kostnadsfria engelskalektioner med personer som har engelska som modersmål eller ukrainska lärare.
- Dedikerat HR-stöd.
- Människoorienterat ledarskap med begränsad byråkrati.
- En välkomnande företagskultur.
Relaterade jobb
Inga jobb hittades
Prova att justera eller rensa filtren för att hitta fler möjligheter.