OpenRouter
OpenRouter
OpenRouter ist eine Plattform für künstliche Intelligenz, die Entwicklerinnen, Entwicklern und Teams einen einheitlichen Zugang zu großen Sprachmodellen verschiedener Anbieter ermöglicht. Der Modellkatalog umfasst unter anderem Mistral Small 3 und DeepSeek R1 Distill Qwen 32B und unterstützt Anwendungen, bei denen Geschwindigkeit, Genauigkeit und eine flexible Modellauswahl im Vordergrund stehen. OpenRouter bietet außerdem Werkzeuge für Programmierung und Gaming mit möglichen Einsatzbereichen unter anderem in Marketing, Finanzwesen und Bildung.

Engineering Manager, Provider-Ökosystem — OpenRouter (Remote)

Leite OpenRouters Engineering-Team für das Provider-Ökosystem und externe Provider-Partnerschaften. Verantworte Integrationen, Routing, Evaluierungen und multimodale Inferenzfunktionen für den Zugriff von Unternehmen auf LLMs.

Beschreibung

  • Leite das Engineering-Team für das Provider-Ökosystem und baue es weiter aus
  • Stelle Ingenieurinnen und Ingenieure ein, definiere die Roadmap, überprüfe Code, manage Incidents und repräsentiere das Team
  • Verantworte Provider-Adapter, Lebenszyklen von Endpunkten und Routing-Systeme
  • Sei technisches Gegenüber für führende Modellanbieter
  • Koordiniere Produktstarts am Tag null und unter Ausschluss der Öffentlichkeit
  • Arbeite mit Go-to-Market-, Business-Development- und Rechtsteams zusammen, um Provider zu onboarden
  • Erweitere die Plattformfunktionen für Bild-, Video-, Audio-, Embedding-, Echtzeit- und Batch-Inferenz
  • Verantworte Evaluierungsprogramme und Inferenzqualität
  • Nutze Benchmark-Ergebnisse und Produktions-Telemetrie, um Routing-Entscheidungen zu steuern und Providern Feedback zu geben
  • Berichte an den Vice President of Engineering

Anforderungen

  • Mindestens vier Jahre Erfahrung im Engineering-Management
  • Erfahrung im Aufbau oder in der Skalierung von Teams während schnellen Wachstums
  • Fundierte Kenntnisse in verteilten Systemen, API-Design und LLM-Inferenz
  • Verständnis von Streaming, Tool-Calling, Prompt-Caching, Quantisierung und dem Verhältnis zwischen Durchsatz und Latenz
  • Verständnis der Unterschiede zwischen Provider-APIs und des Routings von Millionen Anfragen über heterogene Endpunkte
  • Praktische Programmiererfahrung und Vertrautheit mit KI-gestützten Entwicklungstools
  • Fähigkeit zur externen Zusammenarbeit mit Modelllaboren und Engineering-Teams
  • Erfahrung in der Gewinnung und Bindung leistungsstarker Ingenieurinnen und Ingenieure
  • Nachgewiesene Eigeninitiative und klare Kommunikation
  • Pragmatischer Ansatz für die Arbeit in schlanken Engineering-Organisationen
  • Wünschenswert: Erfahrung mit einem Inferenzanbieter, Modelllabor, GPU-Cloud-Anbieter oder mehreren LLM-APIs
  • Wünschenswert: Erfahrung mit TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP oder Vercel
  • Wünschenswert: Erfahrung mit Evaluierungen, Benchmarking, Routing oder Load-Balancing-Systemen
  • Wünschenswert: Erfahrung mit multimodalen APIs oder Echtzeit- und Batch-Inferenz
  • Wünschenswert: Erfahrung mit Sicherheits- und Compliance-Prüfungen von Anbietern, einschließlich NDAs, DPAs und SOC 2
  • Wünschenswert: Erfahrung mit OpenRouter oder dem Aufbau von KI-Infrastruktur und Nebenprojekten im Bereich Entwicklerwerkzeuge

Zusatzleistungen

  • Beteiligung am Eigenkapital
  • Remote-Arbeit

Ähnliche Stellen

Zaden Technologies

Senior VMware-Virtualisierungsarchitekt – vor Ort in Chantilly

Zaden Technologies
11 – 50 Mitarbeitende
BeratungLogistikVerteidigung

Leiten Sie die VMware-Infrastruktur für ein Programm der Defense Health Agency und verantworten Sie mehr als 2.000 virtuelle Maschinen in zwei getrennten DoD-Enklaven in Chantilly. Steuern Sie Konsolidierung, Automatisierung, Compliance und den täglichen Betrieb.

Öffnen
Acuity

Senior Softwarearchitekt:in für Produktdatenmanagement

Acuity

Gestalten Sie die Architektur und den Modernisierungsfahrplan für Acuitys Produktdatenmanagement-Plattform. Steuern Sie Cloud-, API-, Daten-, DevOps- und KI-Initiativen für Industrieprodukte.

Öffnen
NVIDIA

Senior MEP Solutions Architect für KI-Rechenzentren – Australien

NVIDIA

Leiten Sie in Australien die Infrastrukturarbeit für NVIDIA-KI- und HPC-Rechenzentren – vom Entwurf und Bau bis zur Inbetriebnahme und zum Betrieb. Beraten Sie Kunden und Partner zu Stromversorgung, Kühlung, Steuerung und Einsatzbereitschaft.

Öffnen
Grafana Labs

Senior Solutions Architect, Deutschland (Remote)

Grafana Labs

Begleite Grafana-Labs-Kunden in Deutschland bei der Konzeption und Einführung von Observability-Lösungen. Leite technische Workshops, Architekturplanung, Implementierung und Enablement der Kunden.

Öffnen