Baseten
Baseten
Baseten stellt Unternehmen, die maschinelles Lernen und KI-Anwendungen einsetzen, Infrastruktur für die Modellausführung bereit. Die Plattform ist auf eine schnelle und skalierbare Bereitstellung ausgelegt und kombiniert leistungsstarke Inferenz mit schneller Bereitstellung, automatischer Skalierung, sicherem Model Serving für Unternehmen sowie Unterstützung für die Paketierung von Open-Source-Modellen. Baseten unterstützt Engineering- und Machine-Learning-Teams dabei, die betrieblichen Anforderungen ihrer Modellinfrastruktur zu bewältigen, damit sie sich auf die Entwicklung domänenspezifischer Modelle konzentrieren können. Das Unternehmen ist in den Bereichen künstliche Intelligenz, SaaS und Unternehmenstechnologie tätig und beschäftigt 11–50 Mitarbeitende.

Softwareentwickler/in für Inferenz-Performance bei Baseten (Hybrid)

Baseten sucht eine/n Softwareentwickler/in für Inferenz-Performance zur Optimierung von LLM-Laufzeiten, GPU-Kerneln und Modellbereitstellungssystemen. Im Mittelpunkt stehen höhere Produktionsgeschwindigkeit bei der Inferenz, bessere Hardwareauslastung und Kosteneffizienz.

Beschreibung

  • Fortschrittliche Inferenzverfahren wie Quantisierung, spekulatives Decoding, KV-Cache-Wiederverwendung, chunkweises Prefill, LoRA, gesteuerte Generierung sowie benutzerdefiniertes Scheduling oder Routing für den Produktionseinsatz nutzbar machen.
  • Die gesamte Inferenz-Pipeline analysieren und Kernel-Overhead, Speicherplatzierung, Anfrageplanung, die Trennung von Prefill und Decoding sowie cachebewusstes Routing optimieren.
  • Die Anzahl der Tokens pro GPU-Stunde und die Auslastung steigern und dabei Latenz, Durchsatz und Kosten ausbalancieren.
  • Neue Modellarchitekturen auf modernen Hardwareplattformen bereitstellen und optimieren.
  • Benchmarks für verschiedene Modelltypen, Batch-Größen, Sequenzlängen und Hardwarekonfigurationen erstellen.
  • Verbesserungen zu Open-Source-Inferenzprojekten wie vLLM, SGLang und TensorRT-LLM beitragen.
  • Mit Teams für Modelle, Infrastruktur und Kundenbetreuung zusammenarbeiten, um messbare Leistungssteigerungen zu erzielen.

Anforderungen

  • Abgeschlossenes Bachelor-, Master- oder Promotionsstudium in Informatik, Ingenieurwissenschaften, Mathematik oder einem verwandten Fachgebiet.
  • Berufserfahrung mit mindestens einer universell einsetzbaren Programmiersprache, darunter Python oder C++.
  • Praktische Kenntnisse von LLM-Optimierungsmethoden wie Quantisierung, spekulativem Decoding und kontinuierlichem Batching.
  • Sehr gute Kenntnisse von Machine-Learning-Bibliotheken, insbesondere PyTorch, TensorRT oder TensorRT-LLM.
  • Nachweisliches Interesse an großen Sprachmodellen sowie praktische Erfahrung damit.
  • Umfassendes Verständnis der GPU-Architektur.

Zusatzleistungen

  • Wettbewerbsfähiges Vergütungspaket mit attraktiver Beteiligung in Form von Unternehmensanteilen.
  • Für Mitarbeitende in den USA: vollständige Kranken-, Zahn- und Augenversicherung für Mitarbeitende und ihre Angehörigen.
  • Flexible bezahlte Freizeit sowie eine unternehmensweite Winterpause.
  • Bezahlter Elternurlaub.
  • Unterstützung bei Kinderwunsch und Familiengründung durch ein Carrot-Stipendium.
  • Für Mitarbeitende in den USA: ein vom Unternehmen unterstützter 401(k)-Plan.
  • Möglichkeiten zur Zusammenarbeit mit verschiedenen Machine-Learning-Start-ups und damit für umfangreiches Lernen und berufliche Vernetzung.

Ähnliche Stellen

Moen

Remote-Innendienstmitarbeiter/in Vertrieb – Arizona

Moen

Begleite Hauseigentümer bei der Auswahl von SpringWell-Wasserfiltersystemen – von der eingehenden Anfrage bis zum Kauf. Führe beratende Verkaufsgespräche, informiere Kunden, bleibe im Follow-up und pflege die Aktivitäten in der CRM-Pipeline.

Öffnen
Moen

Mitarbeiter im telefonischen Vertrieb für SpringWell-Wasserfiltersysteme

Moen

Beraten Sie Hauseigentümer beim Verkauf von SpringWell-Wasserfiltersystemen – von der ersten Anfrage bis zum Kauf. Empfehlen Sie Wasseraufbereitungssysteme für den Haushalt, die zu den Wasserproblemen, dem Budget und den Installationsanforderungen der Kunden passen.

Öffnen
Moen

Remote-Innendienstmitarbeiter:in Vertrieb – SpringWell

Moen

Beraten Sie Hauseigentümer:innen bei der Auswahl von SpringWell-Wasserfiltersystemen. Bearbeiten Sie eingehende Leads, erläutern Sie Produkte und Wasseranalysen und pflegen Sie Ihre CRM-Vertriebspipeline.

Öffnen
Realstudio

Remote-B2B-Vertriebsmitarbeiter

Realstudio
11 – 50 Mitarbeitende
MarketingMedienWerbung

Vereinbare erste Kundengespräche und qualifiziere Interessenten für RealStudio, eine Agentur für Social Content mit großen DACH-Marken und Scale-ups als Kunden. Der Schwerpunkt liegt auf der Vereinbarung von Abschlussgesprächen; später kannst du möglicherweise selbst Abschlussgespräche führen.

Öffnen
Realstudio

Leitung B2B-Vertrieb (weltweit remote)

Realstudio
11 – 50 Mitarbeitende
MarketingMedienWerbung

Leite das B2B-Vertriebsteam von RealStudio und betreue die Vertriebspipeline. Entwickle skalierbare Vertriebsabläufe für eine Agentur, die Social-Media-Inhalte für große deutsche Marken erstellt.

Öffnen