51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA (anglais et kannada) – Contrat à distance aux États-Unis
Mercor recherche un spécialiste du red teaming de l’IA maîtrisant l’anglais et le kannada pour tester les vulnérabilités des modèles de pointe. Le travail consiste à créer des cas d’attaque reproductibles, des jeux de données d’évaluation et des rapports de risques pour des projets d’entraînement de l’IA fondés sur des données humaines.
Description
- Tester des modèles et des agents d’IA conversationnelle à l’aide de jailbreaks, d’injections de prompts, de scénarios d’utilisation abusive, d’exploitation des biais et de manipulations sur plusieurs tours
- Créer des annotations de données humaines en documentant les défaillances, en catégorisant les vulnérabilités et en identifiant les risques systémiques
- Utiliser des taxonomies, des benchmarks et des guides opérationnels établis afin de garantir la cohérence des évaluations
- Préparer des rapports destinés aux clients, des jeux de données et des cas d’attaque reproductibles
- Évaluer les réponses de l’IA sur des sujets sensibles, notamment les biais, la désinformation et les comportements nuisibles
- Rechercher les faiblesses des systèmes d’IA que les tests automatisés pourraient ne pas détecter
- Élargir la couverture des évaluations afin de contribuer à limiter les problèmes inattendus en production
- Soutenir l’entraînement et l’amélioration des modèles de pointe pour le laboratoire d’IA de Mercor et ses clients professionnels
Exigences
- Maîtrise de niveau natif de l’anglais et du kannada
- Bon jugement pour évaluer si les réponses de l’IA sont exactes, complètes et appropriées
- Excellentes capacités de communication pour expliquer son raisonnement à des publics techniques et non techniques
- Attention méticuleuse aux erreurs subtiles, aux incohérences et aux omissions
- Rigueur dans l’application des taxonomies, benchmarks, guides opérationnels, consignes et normes de qualité
- Flexibilité pour travailler sur différents projets, formats de tâches et clients
- Capacité à travailler en tant que prestataire indépendant
- Ne doit pas nécessiter de parrainage H-1B ou STEM OPT ; ces dispositifs de parrainage ne sont pas pris en charge
- Une expérience pertinente en apprentissage automatique adversarial, cybersécurité, risques sociotechniques, tests d’IA conversationnelle, psychologie, interprétation ou rédaction adversariale non conventionnelle constitue un atout
Avantages
- Travailler entièrement à distance avec la flexibilité de définir son propre emploi du temps
- Recevoir des paiements hebdomadaires via Stripe ou Wise pour les services fournis
- Choisir de participer ou non à des projets impliquant du contenu plus sensible
- Bénéficier de conseils clairs et de ressources de bien-être pour les missions portant sur du contenu sensible
- Recevoir une rémunération compétitive
- Acquérir une expérience pratique du red teaming de l’IA fondé sur les données humaines
- Collaborer avec des chercheurs de premier plan
- Demander des aménagements raisonnables lorsque cela est nécessaire
- Recevoir jusqu’à 90 $ de prime pour chaque recommandation réussie