51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA (anglais et tamoul) – Contrat à distance
Mercor recherche un expert en sécurité de l’IA parlant anglais et tamoul pour effectuer des tests red team sur des modèles et agents conversationnels. Ce poste contractuel consiste à identifier les vulnérabilités, à générer des données d’évaluation et à produire des rapports de sécurité reproductibles.
Description
- Effectuer des tests adversariaux sur des modèles et agents d’IA conversationnelle à l’aide de jailbreaks, d’injections de prompts, de scénarios d’usage abusif, d’exploitation des biais et de manipulations multi-tours.
- Créer des données produites par des humains en annotant les échecs, en catégorisant les vulnérabilités et en identifiant les risques systémiques.
- Utiliser des taxonomies, des benchmarks et des playbooks établis afin de garantir la cohérence des évaluations.
- Fournir aux clients des rapports reproductibles, des jeux de données et des cas d’attaque.
- Évaluer les résultats de l’IA portant sur des sujets sensibles, notamment les biais, la désinformation et les comportements nuisibles.
- Identifier les faiblesses que les méthodes d’évaluation automatisées pourraient ne pas détecter.
- Élargir la couverture des évaluations afin de contribuer à réduire les problèmes inattendus en production.
- Améliorer les systèmes d’IA des clients grâce à des tests adversariaux structurés.
Exigences
- Maîtrise native ou courante de l’anglais et du tamoul.
- Bon jugement dans l’évaluation du langage et du contenu.
- Capacité à déterminer si les réponses de l’IA sont exactes, complètes et appropriées, et à expliquer le raisonnement.
- Grande attention aux erreurs subtiles, aux incohérences et aux omissions.
- Respect constant des directives et des normes de qualité.
- Capacité à communiquer clairement son raisonnement à des publics techniques et non techniques.
- Adaptabilité à différents projets, formats de tâches et clients.
- Capacité à travailler en tant que prestataire indépendant.
- Les candidats H1-B et STEM OPT ne sont pas pris en charge.
- Appréciée : expérience en apprentissage automatique adversarial avec des jeux de données de jailbreak, des attaques par injection de prompts, des attaques RLHF ou DPO, ou l’extraction de modèles.
- Appréciée : expérience en cybersécurité dans les tests d’intrusion, le développement d’exploits ou l’ingénierie inverse.
- Appréciée : expérience des risques sociotechniques liés à l’investigation du harcèlement ou de la désinformation, à l’analyse des abus ou aux tests d’IA conversationnelle.
- Appréciée : expérience du sondage créatif en psychologie, en interprétation ou en écriture.
Avantages
- Travail entièrement à distance.
- Horaires flexibles avec la possibilité de définir ses propres heures.
- Paiements hebdomadaires via Stripe ou Wise.
- Participation facultative à des projets présentant une sensibilité accrue.
- Conseils clairs et ressources de bien-être pour le travail impliquant du contenu sensible.
- Rémunération horaire compétitive.
- Possibilité de collaborer avec des chercheurs de premier plan.
- Primes de recommandation pouvant atteindre 90 $ par recommandation aboutie, sous réserve des limites applicables.
- Des aménagements raisonnables sont disponibles sur demande.