51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en red teaming de la sécurité de l’IA : anglais et finnois, télétravail aux États-Unis
Réalisez des tests adversariaux sur des modèles et agents d’IA conversationnelle pour les projets d’IA fondés sur des données humaines de Mercor. Créez des données de vulnérabilités reproductibles afin de contribuer au renforcement des systèmes d’IA de pointe.
Description
- Testez des modèles et agents d’IA conversationnelle à l’aide de jailbreaks, d’injections de prompts, de scénarios d’usage abusif, d’exploitation des biais et de manipulations en plusieurs tours
- Annotez les échecs, catégorisez les vulnérabilités et identifiez les risques systémiques
- Appliquez des taxonomies, des benchmarks et des playbooks établis pour des évaluations cohérentes
- Créez des rapports, des jeux de données et des cas d’attaque reproductibles pour les clients
- Identifiez les vulnérabilités que les tests automatisés pourraient ne pas détecter
- Élargissez la couverture des évaluations et contribuez à réduire les problèmes inattendus en production
- Collaborez avec des chercheurs de premier plan sur des projets qui entraînent et améliorent des systèmes d’IA
Exigences
- Maîtrise courante ou langue maternelle en anglais et en finnois
- Expérience préalable en red teaming appliqué à l’IA adversariale, à la cybersécurité ou à l’analyse sociotechnique
- Capacité à tester des systèmes d’IA de manière adversariale et à les pousser vers leurs points de défaillance
- Expérience de l’application de frameworks ou de benchmarks pour des tests structurés
- Capacité à communiquer clairement les risques à des publics techniques et non techniques
- Adaptabilité à différents projets et exigences des clients
- Disponibilité pour une mission en tant que prestataire indépendant
- Ne pas être candidat au visa H-1B ni au STEM OPT
- Expérience en apprentissage automatique adversarial appréciée, notamment des jeux de données de jailbreak, de l’injection de prompts, des attaques RLHF/DPO ou de l’extraction de modèles
- Expérience en cybersécurité appréciée, notamment en tests d’intrusion, en développement d’exploits ou en rétro-ingénierie
- Expérience des risques sociotechniques appréciée, notamment en analyse du harcèlement ou de la désinformation, en analyse des abus ou en tests d’IA conversationnelle
- Expérience en psychologie, en théâtre ou en écriture appréciée pour favoriser une réflexion adversariale non conventionnelle
Avantages
- Travail entièrement à distance
- Horaires flexibles
- Paiements hebdomadaires via Stripe ou Wise
- Ressources de bien-être et directives claires pour les projets à plus forte sensibilité
- Possibilité d’acquérir de l’expérience en red teaming de l’IA fondé sur des données humaines
- Possibilité directe de contribuer à rendre les systèmes d’IA plus robustes, sûrs et dignes de confiance
- Rémunération compétitive
- Prime de recommandation pouvant atteindre 250 $ pour chaque recommandation réussie