51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA à distance (anglais et gujarati) – Contrat
Mercor recherche un expert en sécurité de l’IA, sous contrat et maîtrisant l’anglais et le gujarati, pour tester de manière offensive des modèles d’IA de pointe. Le travail consiste à tester les vulnérabilités, évaluer les défaillances et créer des jeux de données et des cas d’attaque reproductibles.
Description
- Tester des modèles et des agents d’IA conversationnelle afin de détecter les jailbreaks, les injections de prompts, les scénarios d’utilisation abusive, l’exploitation des biais et la manipulation sur plusieurs tours
- Créer des données produites par des humains en annotant les défaillances, en catégorisant les vulnérabilités et en identifiant les risques systémiques
- Utiliser des taxonomies, des benchmarks et des guides établis pour mener des évaluations cohérentes
- Élaborer des rapports clients, des jeux de données et des cas d’attaque reproductibles
- Évaluer les résultats de l’IA afin d’identifier des problèmes sensibles, notamment les biais, la désinformation et les comportements nuisibles
- Repérer les faiblesses que les tests automatisés ne détectent pas
- Élargir la couverture des évaluations afin de contribuer à prévenir les problèmes inattendus en production
- Contribuer à des projets qui entraînent et améliorent des systèmes d’IA de pointe
Exigences
- Maîtrise native ou courante de l’anglais et du gujarati
- Bon jugement pour évaluer le langage et le contenu en matière d’exactitude, d’exhaustivité et de pertinence
- Capacité à détecter les erreurs nuancées, les incohérences et les omissions
- Respect constant des directives établies et des normes de qualité
- Communication claire du raisonnement auprès de publics techniques et non techniques
- Flexibilité entre les projets, les formats de tâches et les besoins des clients
- Exercice en tant que prestataire indépendant
- Les candidats titulaires d’un H-1B ou d’un STEM OPT ne sont pas éligibles
- Souhaité : expérience en apprentissage automatique offensif avec des jeux de données de jailbreak, des injections de prompts, des attaques RLHF/DPO ou l’extraction de modèles
- Souhaité : expérience en cybersécurité dans les tests d’intrusion, le développement d’exploits ou la rétro-ingénierie
- Souhaité : expérience des risques sociotechniques liés à l’étude du harcèlement ou de la désinformation, à l’analyse des abus ou aux tests d’IA conversationnelle
- Souhaité : expérience en psychologie, en jeu d’acteur ou en écriture favorisant une réflexion offensive non conventionnelle
Avantages
- Travailler à distance depuis les États-Unis
- Choisir un emploi du temps flexible adapté à vos disponibilités
- Recevoir des paiements hebdomadaires via Stripe ou Wise
- Choisir de participer ou non à des projets à plus forte sensibilité
- Bénéficier de conseils clairs et de ressources de bien-être pour les missions portant sur des contenus sensibles
- Rémunération horaire compétitive
- Des aménagements raisonnables sont disponibles sur demande
- Possibilité de gagner jusqu’à 90 USD par recommandation réussie, sous réserve des limites applicables