51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA chez Mercor – anglais et gujarati, contrat à distance aux États-Unis
Menez des évaluations humaines en red teaming de modèles et d’agents d’IA conversationnelle pour Mercor. Générez des données de vulnérabilité, des scénarios d’attaque et des évaluations de sécurité reproductibles en anglais et en gujarati.
Description
- Effectuer des tests en red teaming sur des modèles et des agents d’IA conversationnelle à l’aide de jailbreaks, d’injections de prompts, de scénarios d’utilisation abusive, d’exploitation des biais et de manipulations sur plusieurs tours
- Annoter les défaillances, catégoriser les vulnérabilités et signaler les risques systémiques
- Utiliser des taxonomies, des benchmarks et des playbooks établis afin de garantir la cohérence des évaluations
- Créer des rapports, des jeux de données et des scénarios d’attaque reproductibles
- Évaluer les résultats de l’IA concernant les biais, la désinformation, les comportements nuisibles et d’autres sujets sensibles
- Détecter les faiblesses que les tests automatisés pourraient ne pas repérer
- Élargir la couverture des évaluations et contribuer à limiter les problèmes imprévus en production
- Améliorer les systèmes d’IA des clients grâce à un red teaming humain fondé sur les données
Exigences
- Maîtrise de niveau natif de l’anglais et du gujarati
- Bon jugement dans l’évaluation du langage et du contenu
- Capacité à déterminer si les réponses de l’IA sont exactes, complètes et appropriées, et à expliquer cette évaluation
- Grande attention aux erreurs subtiles, aux incohérences et aux omissions
- Respect constant des consignes et des normes de qualité
- Communication claire du raisonnement auprès de publics techniques et non techniques
- Souplesse pour travailler sur différents projets, formats de tâches et clients
- Volonté de travailler en tant que contractuel indépendant
- Ne pas être candidat au visa H-1B ni au programme STEM OPT
- Une expertise en apprentissage automatique adversarial, cybersécurité, risques sociotechniques ou exploration créative est un atout
Avantages
- Travail contractuel entièrement à distance
- Horaires flexibles
- Paiements hebdomadaires via Stripe ou Wise
- Possibilité de participer à des projets à sensibilité accrue
- Accompagnement et ressources de bien-être pour les travaux impliquant du contenu sensible
- Rémunération compétitive
- Possibilité de collaborer avec des chercheurs de premier plan
- Aménagements raisonnables disponibles sur demande
- Programme de recommandation offrant jusqu’à 90 $ pour chaque recommandation aboutie