MWDN
MWDN
51 – 200 Mitarbeitende
BeratungGesundheitswesenLogistik
MWDN ist ein IT-Dienstleistungs- und Softwareentwicklungsunternehmen, das Unternehmen beim Aufbau und der Weiterentwicklung digitaler Produkte für Web-, Mobil- und Desktop-Plattformen unterstützt. Das interne Engineering-Team begleitet die Umsetzung von Kundenprojekten durch Arbeitnehmerüberlassung, dedizierte Entwicklungsteams und globale IT-Rekrutierung. Mit Delivery-Zentren in Mittel- und Osteuropa bringt MWDN Organisationen in den USA, Europa und Israel mit Softwaretalenten für maßgeschneiderte und kostenbewusste Technologieprojekte zusammen.

CUDA Engineer für LLM-Inferenz (remote, Usbekistan)

Optimiere die LLM-Inferenz auf modernen GPUs mit CUDA-Kernels und Serving-Frameworks. Arbeite bei MWDN an KI-Systemen und Projekten im Hochleistungsrechnen.

Beschreibung

  • Verbessere die Leistung der LLM-Inferenz auf modernen GPUs.
  • Nutze Inferenz- und Serving-Frameworks wie vLLM, SGLang und TensorRT-LLM.
  • Untersuche GPU-Ausführung, Speicherzugriffe, Kernel-Leistung und Engpässe bei der Inferenz.
  • Entwickle, optimiere, debugge oder reverse-engineere CUDA-Kernels und GPU-Operationen auf niedriger Ebene.
  • Untersuche Optimierungsmethoden für Matrixmultiplikation, Attention und neuronale Netzwerkschichten.
  • Führe Benchmarks durch und finde Möglichkeiten, Latenz, Durchsatz und GPU-Auslastung zu verbessern.
  • Löse anspruchsvolle Probleme an der Schnittstelle von KI-Systemen und Hochleistungsrechnen.
  • Führe praktische Experimente durch und analysiere das Verhalten von Systemen auf niedriger Ebene.

Anforderungen

  • Du bringst fundierte praktische Erfahrung mit CUDA und GPU-Programmierung mit.
  • Du verfügst über ein tiefes Verständnis von GPU-Architektur, Speicherhierarchien, paralleler Ausführung und Performance-Tuning.
  • Du hast Erfahrung mit LLM-Inferenz, KI-Systemen, GPU-Kernels oder Hochleistungsrechnen.
  • Du kennst dich mit mindestens einem der folgenden Frameworks aus: vLLM, SGLang, TensorRT-LLM, Triton oder FlashAttention.
  • Du kannst komplexe Performance-Probleme diagnostizieren und das Verhalten von Systemen auf niedriger Ebene untersuchen.
  • Du verfügst über ausgeprägte Problemlösungsfähigkeiten.
  • Du kannst komplexe technische Sachverhalte auf Englisch verständlich vermitteln.
  • Eine Promotion oder Forschungserfahrung in Informatik, maschinellem Lernen, Rechnerarchitektur oder einem verwandten Fachgebiet ist von Vorteil.
  • Publikationen, Projektarbeit oder umfangreiche Open-Source-Beiträge zu GPU- oder LLM-Infrastruktur sind von Vorteil.
  • Erfahrung mit PyTorch-Interna, verteilter Inferenz, Quantisierung, KV-Cache-Tuning oder eigenen GPU-Kernels ist von Vorteil.
  • Beiträge zu vLLM, SGLang, Triton, FlashAttention oder verwandten Repositories sind von Vorteil.

Zusatzleistungen

  • Kundenprüfung, die Risiken senken und zuverlässige, pünktliche Zahlungen unterstützen soll.
  • Karriereberatung und Unterstützung bei der Suche nach künftigen Möglichkeiten.
  • Rechtsberatung zu selbstständiger Tätigkeit oder Einzelunternehmen, Steuern und verwandten Themen.
  • Englischunterricht und Möglichkeiten zur beruflichen Weiterentwicklung.
  • Teambuilding-Aktivitäten.
  • Flexible Arbeitszeiten.
  • 29 bezahlte freie Tage: 18 Arbeitstage pro Jahr plus gesetzliche Feiertage.
  • 10 bezahlte Erholungstage.
  • Finanzielle und rechtliche Unterstützung für Selbstständige.
  • Kostenloser Englischunterricht bei englischen Muttersprachlern oder ukrainischen Lehrkräften.
  • Persönliche Unterstützung durch HR.
  • Menschenorientierte Führung mit wenig Bürokratie.
  • Eine herzliche Unternehmenskultur.

Ähnliche Stellen

Keine Stellen gefunden

Passe deine Filter an oder lösche sie, um weitere Möglichkeiten zu finden.