OpenRouter est une plateforme d’intelligence artificielle qui permet aux développeurs et aux équipes d’accéder de manière unifiée à des modèles de langage de grande taille provenant de différents fournisseurs et de les exploiter. Son catalogue de modèles comprend notamment Mistral Small 3 et DeepSeek R1 Distill Qwen 32B, pour des applications qui privilégient la rapidité, la précision et la flexibilité dans le choix des modèles. OpenRouter propose également des outils pour le développement logiciel et les jeux vidéo, avec des applications potentielles dans des domaines tels que le marketing, la finance et l’éducation.
Responsable ingénierie, écosystème des fournisseurs — OpenRouter (Télétravail)
Dirigez l’équipe d’ingénierie de l’écosystème des fournisseurs d’OpenRouter et les partenariats avec des fournisseurs externes. Prenez en charge les intégrations, le routage, les évaluations et les capacités d’inférence multimodale pour l’accès des entreprises aux LLM.
États-Unis245 000 $ – 295 000 $ / an
À distanceTemps pleinIntermédiaireSeniorLangue Requise : anglaisResponsable ingénierieDescription
- Diriger et développer l’équipe d’ingénierie de l’écosystème des fournisseurs
- Recruter des ingénieurs, définir la feuille de route, relire le code, gérer les incidents et représenter l’équipe
- Prendre en charge les adaptateurs fournisseurs, les cycles de vie des endpoints et les systèmes de routage
- Agir comme interlocuteur technique auprès des principaux fournisseurs de modèles
- Coordonner les lancements dès le premier jour et les lancements confidentiels
- Collaborer avec les équipes go-to-market, développement commercial et juridique pour intégrer les fournisseurs
- Étendre les capacités de la plateforme à l’inférence d’images, de vidéos, d’audio, d’embeddings, en temps réel et par lots
- Prendre en charge les programmes d’évaluation et la qualité de l’inférence
- Utiliser les résultats des benchmarks et la télémétrie de production pour orienter les décisions de routage et fournir des retours aux fournisseurs
- Rendre compte au vice-président de l’Ingénierie
Exigences
- Au moins quatre ans d’expérience en gestion de l’ingénierie
- Expérience dans la création ou la mise à l’échelle d’équipes en période de forte croissance
- Solides connaissances des systèmes distribués, de la conception d’API et de l’inférence de LLM
- Compréhension du streaming, des appels d’outils, de la mise en cache des prompts, de la quantification et des compromis entre débit et latence
- Compréhension des différences entre les API des fournisseurs et du routage de millions de requêtes vers des endpoints hétérogènes
- Expérience pratique de la programmation et familiarité avec les outils de développement assisté par IA
- Capacité à collaborer avec des laboratoires de modèles et des équipes d’ingénierie externes
- Expérience dans le recrutement et la fidélisation d’ingénieurs performants
- Esprit d’initiative démontré et communication claire
- Approche pragmatique du travail au sein d’organisations d’ingénierie légères
- Souhaité : expérience avec un fournisseur d’inférence, un laboratoire de modèles, un cloud GPU ou plusieurs API de LLM
- Souhaité : expérience avec TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP ou Vercel
- Souhaité : expérience des évaluations, du benchmarking, du routage ou des systèmes d’équilibrage de charge
- Souhaité : expérience des API multimodales ou de l’inférence en temps réel et par lots
- Souhaité : expérience des audits de sécurité et de conformité des fournisseurs, notamment les NDA, DPA et SOC 2
- Souhaité : expérience d’utilisation d’OpenRouter ou de création de projets personnels d’infrastructure IA et d’outils pour développeurs
Avantages
- Participation au capital
- Télétravail