OpenRouter est une plateforme d’intelligence artificielle qui permet aux développeurs et aux équipes d’accéder de manière unifiée à des modèles de langage de grande taille provenant de différents fournisseurs et de les exploiter. Son catalogue de modèles comprend notamment Mistral Small 3 et DeepSeek R1 Distill Qwen 32B, pour des applications qui privilégient la rapidité, la précision et la flexibilité dans le choix des modèles. OpenRouter propose également des outils pour le développement logiciel et les jeux vidéo, avec des applications potentielles dans des domaines tels que le marketing, la finance et l’éducation.
Ingénieur logiciel confiance et sécurité en télétravail chez OpenRouter
Concevez des systèmes de lutte contre les abus, la fraude et les risques liés à la sécurité des contenus pour l’infrastructure de routage IA d’OpenRouter. Prenez en charge la détection, les mesures de contrôle, les outils de revue et l’analyse des risques.
Description
- Concevoir et exploiter des systèmes couvrant les flux d’inscription, de paiement et d’utilisation afin d’identifier rapidement les abus et la fraude
- Gérer le processus d’application des mesures, de la détection à la revue humaine et aux restrictions entre systèmes
- Créer des outils d’enquête et d’application des mesures, tels que des files de dossiers, des synthèses de preuves, des actions groupées et des alertes
- Fournir des capacités de sécurité des contenus sur le chemin d’inférence, notamment la détection et le signalement de contenus illégaux
- Intégrer ou développer des systèmes KYC et des sources externes de renseignement afin d’identifier proactivement la fraude et les abus
- Développer des systèmes de détection, des outils opérationnels et des heuristiques permettant une application rapide et évolutive des mesures
- Analyser les incidents dans les données de production, mesurer les tendances émergentes et distinguer les comportements abusifs des faux positifs
- Mettre en place une surveillance des risques, des pics d’abus et de la fraude, tout en améliorant les taux de faux positifs
- Orienter la stratégie technique de prévention des abus et établir des modèles d’ingénierie réutilisables
- Collaborer avec des scientifiques des données pour explorer les variables et entraîner des modèles d’apprentissage automatique dédiés aux risques et aux abus
Exigences
- Au moins quatre ans d’expérience dans la conception et l’exploitation de systèmes en production, de préférence dans la confiance et la sécurité, la fraude, le risque lié aux paiements, la sécurité ou la lutte contre les abus
- Maîtrise de React, TypeScript, Next.js et des environnements d’exécution JavaScript
- Capacité à interroger de grands ensembles de données événementielles avec SQL
- Solide compréhension des taux de base, de la précision, du rappel et des conséquences des décisions incorrectes
- Bon discernement lorsque les éléments disponibles sont incomplets
- Forte prise de responsabilité et goût marqué pour l’action
- Mode de travail axé sur l’IA, avec une utilisation régulière d’agents de programmation et de l’automatisation des flux de travail
- À l’aise dans un environnement restreint et dynamique, avec des périmètres d’équipe évolutifs
- Discrétion et résilience face à des contenus troublants et à des données sensibles d’utilisateurs
- Excellentes aptitudes à la communication écrite et orale
- Intérêt pour la résolution de problèmes adversariaux
- Souhaitable : expérience des outils de fraude liés aux paiements, tels que Stripe Radar, les rétrofacturations, les litiges ou le risque lié aux paiements en cryptomonnaies
- Souhaitable : expérience des systèmes d’identité et de KYC
- Souhaitable : expérience des abus liés aux LLM, notamment les jailbreaks, l’injection de prompts, le vol et la revente de clés, les identifiants partagés ou la création automatisée de comptes
- Souhaitable : expérience de grands entrepôts de données analytiques tels que ClickHouse ou BigQuery et de plateformes d’observabilité
- Souhaitable : connaissance des exigences de signalement et de conformité applicables aux services d’IA hébergés
- Souhaitable : expérience d’OpenRouter ou de projets personnels dans les produits, l’infrastructure ou les outils pour développeurs en IA
Avantages
- Rémunération en actions
- Télétravail depuis les États-Unis