51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA – Anglais et assamais | Contrat à distance avec Mercor
Effectuez des tests adversariaux sur des modèles d’IA de pointe afin de détecter les jailbreaks, les biais, les usages abusifs et d’autres risques de sécurité. Créez des annotations de données humaines, des classifications de vulnérabilités et des preuves reproductibles d’attaques pour les clients de Mercor.
Description
- Testez de manière adversariale des modèles et des agents d’IA conversationnelle afin de détecter les jailbreaks, l’injection de prompts, les usages abusifs, l’exploitation des biais et la manipulation sur plusieurs tours
- Créez des annotations de données humaines, classez les défaillances et identifiez les risques systémiques
- Utilisez des taxonomies, des benchmarks et des guides établis pour standardiser les évaluations
- Fournissez aux clients des rapports, des jeux de données et des cas d’attaque reproductibles
- Évaluez les réponses de l’IA portant sur les biais, la désinformation, les comportements nuisibles et d’autres sujets sensibles
- Trouvez les faiblesses que les tests automatisés ne détectent pas
- Élargissez la couverture des évaluations afin de contribuer à prévenir les problèmes inattendus en production
- Améliorez les systèmes d’IA des clients grâce à des tests adversariaux structurés
Exigences
- Maîtrise native de l’anglais et de l’assamais
- Bon jugement pour évaluer la langue et le contenu en matière d’exactitude, d’exhaustivité et de pertinence
- Capacité à détecter les erreurs subtiles, les incohérences et les omissions
- Respect constant des directives et des normes de qualité
- Communication claire du raisonnement auprès de publics techniques et non techniques
- Flexibilité entre les projets, les formats de tâches et les besoins des clients
- Atout : expérience en apprentissage automatique adversarial avec des jeux de données de jailbreaks, l’injection de prompts, des attaques RLHF ou DPO, ou l’extraction de modèles
- Atout : expérience en cybersécurité dans les tests d’intrusion, le développement d’exploits ou la rétro-ingénierie
- Atout : expérience des risques sociotechniques dans l’analyse du harcèlement ou de la désinformation, l’analyse des abus ou les tests d’IA conversationnelle
- Atout : expérience en psychologie, en interprétation ou en écriture favorisant une réflexion adversariale non conventionnelle
- Vous devez travailler en tant que prestataire indépendant
- Les candidats H-1B et STEM OPT ne sont pas pris en charge
Avantages
- Travail entièrement à distance
- Choisissez votre propre emploi du temps
- Recevez des paiements hebdomadaires via Stripe ou Wise
- Acquérez une expérience pratique du red teaming de l’IA fondé sur les données humaines
- Contribuez à rendre les systèmes d’IA plus robustes, sûrs et fiables
- Travaillez avec des chercheurs de premier plan
- Des aménagements raisonnables sont disponibles sur demande
- Recevez jusqu’à 90 $ de prime pour les recommandations aboutissant à une embauche