
MWDN ist ein IT-Dienstleistungs- und Softwareentwicklungsunternehmen, das Unternehmen beim Aufbau und der Weiterentwicklung digitaler Produkte für Web-, Mobil- und Desktop-Plattformen unterstützt. Das interne Engineering-Team begleitet die Umsetzung von Kundenprojekten durch Arbeitnehmerüberlassung, dedizierte Entwicklungsteams und globale IT-Rekrutierung. Mit Delivery-Zentren in Mittel- und Osteuropa bringt MWDN Organisationen in den USA, Europa und Israel mit Softwaretalenten für maßgeschneiderte und kostenbewusste Technologieprojekte zusammen.
CUDA Engineer für LLM-Inferenz (remote, Usbekistan)
Optimiere die LLM-Inferenz auf modernen GPUs mit CUDA-Kernels und Serving-Frameworks. Arbeite bei MWDN an KI-Systemen und Projekten im Hochleistungsrechnen.
Beschreibung
- Verbessere die Leistung der LLM-Inferenz auf modernen GPUs.
- Nutze Inferenz- und Serving-Frameworks wie vLLM, SGLang und TensorRT-LLM.
- Untersuche GPU-Ausführung, Speicherzugriffe, Kernel-Leistung und Engpässe bei der Inferenz.
- Entwickle, optimiere, debugge oder reverse-engineere CUDA-Kernels und GPU-Operationen auf niedriger Ebene.
- Untersuche Optimierungsmethoden für Matrixmultiplikation, Attention und neuronale Netzwerkschichten.
- Führe Benchmarks durch und finde Möglichkeiten, Latenz, Durchsatz und GPU-Auslastung zu verbessern.
- Löse anspruchsvolle Probleme an der Schnittstelle von KI-Systemen und Hochleistungsrechnen.
- Führe praktische Experimente durch und analysiere das Verhalten von Systemen auf niedriger Ebene.
Anforderungen
- Du bringst fundierte praktische Erfahrung mit CUDA und GPU-Programmierung mit.
- Du verfügst über ein tiefes Verständnis von GPU-Architektur, Speicherhierarchien, paralleler Ausführung und Performance-Tuning.
- Du hast Erfahrung mit LLM-Inferenz, KI-Systemen, GPU-Kernels oder Hochleistungsrechnen.
- Du kennst dich mit mindestens einem der folgenden Frameworks aus: vLLM, SGLang, TensorRT-LLM, Triton oder FlashAttention.
- Du kannst komplexe Performance-Probleme diagnostizieren und das Verhalten von Systemen auf niedriger Ebene untersuchen.
- Du verfügst über ausgeprägte Problemlösungsfähigkeiten.
- Du kannst komplexe technische Sachverhalte auf Englisch verständlich vermitteln.
- Eine Promotion oder Forschungserfahrung in Informatik, maschinellem Lernen, Rechnerarchitektur oder einem verwandten Fachgebiet ist von Vorteil.
- Publikationen, Projektarbeit oder umfangreiche Open-Source-Beiträge zu GPU- oder LLM-Infrastruktur sind von Vorteil.
- Erfahrung mit PyTorch-Interna, verteilter Inferenz, Quantisierung, KV-Cache-Tuning oder eigenen GPU-Kernels ist von Vorteil.
- Beiträge zu vLLM, SGLang, Triton, FlashAttention oder verwandten Repositories sind von Vorteil.
Zusatzleistungen
- Kundenprüfung, die Risiken senken und zuverlässige, pünktliche Zahlungen unterstützen soll.
- Karriereberatung und Unterstützung bei der Suche nach künftigen Möglichkeiten.
- Rechtsberatung zu selbstständiger Tätigkeit oder Einzelunternehmen, Steuern und verwandten Themen.
- Englischunterricht und Möglichkeiten zur beruflichen Weiterentwicklung.
- Teambuilding-Aktivitäten.
- Flexible Arbeitszeiten.
- 29 bezahlte freie Tage: 18 Arbeitstage pro Jahr plus gesetzliche Feiertage.
- 10 bezahlte Erholungstage.
- Finanzielle und rechtliche Unterstützung für Selbstständige.
- Kostenloser Englischunterricht bei englischen Muttersprachlern oder ukrainischen Lehrkräften.
- Persönliche Unterstützung durch HR.
- Menschenorientierte Führung mit wenig Bürokratie.
- Eine herzliche Unternehmenskultur.
Ähnliche Stellen
Keine Stellen gefunden
Passe deine Filter an oder lösche sie, um weitere Möglichkeiten zu finden.