51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA : anglais et gujarati (contrat à distance)
Testez des modèles et des agents d’IA de pointe afin d’identifier les vulnérabilités de sécurité au moyen de conversations adversariales, notamment les jailbreaks, l’injection de prompts, les détournements d’usage, les biais et la manipulation. Créez des jeux de données annotés, des scénarios d’attaque et des rapports de sécurité reproductibles en anglais et en gujarati.
Description
- Testez de manière adversariale des modèles et des agents d’IA conversationnelle afin de détecter les jailbreaks, l’injection de prompts, les détournements d’usage, l’exploitation des biais et la manipulation sur plusieurs tours
- Créez des données produites par des humains en annotant les échecs, en classant les vulnérabilités et en identifiant les risques systémiques
- Utilisez des taxonomies, des benchmarks et des guides opératoires établis afin de garantir la cohérence des évaluations
- Élaborez des rapports, des jeux de données et des scénarios d’attaque reproductibles
- Évaluez les résultats de l’IA portant sur des sujets sensibles, notamment les biais, la désinformation et les comportements nuisibles
- Identifiez les faiblesses que les méthodes d’évaluation automatisées ne détectent pas
- Élargissez la couverture des évaluations afin de contribuer à limiter les problèmes imprévus en production
- Améliorez les systèmes d’IA des clients grâce à des tests adversariaux structurés
Exigences
- Maîtrise de niveau natif de l’anglais et du gujarati
- Bon jugement dans l’évaluation de la langue et du contenu
- Capacité à déterminer si les réponses de l’IA sont exactes, complètes et appropriées, et à expliquer cette évaluation
- Grande attention aux erreurs subtiles, aux incohérences et aux omissions
- Utilisation cohérente des taxonomies, benchmarks, guides opératoires, directives et normes de qualité
- Capacité à expliquer clairement son raisonnement à des publics techniques et non techniques
- Souplesse pour travailler sur différents projets, formats de tâches et clients
- Une expérience en apprentissage automatique adversarial, cybersécurité, risques sociotechniques ou exploration créative de l’IA est un atout
- Vous devez travailler en tant que prestataire indépendant
- Les candidats titulaires d’un H-1B ou du STEM OPT ne sont pas acceptés
Avantages
- Poste entièrement à distance
- Horaires flexibles avec possibilité de choisir ses heures de travail
- Paiements hebdomadaires via Stripe ou Wise
- Les projets peuvent être prolongés, raccourcis ou interrompus plus tôt selon les besoins de l’activité et les performances
- Participation facultative à des projets impliquant du contenu plus sensible
- Accompagnement défini et ressources de bien-être pour les missions portant sur du contenu sensible
- Des aménagements raisonnables sont disponibles sur demande
- Possibilité d’acquérir de l’expérience en red teaming de l’IA fondé sur des données humaines
- Travail aux côtés de chercheurs de premier plan
- Primes de recommandation pouvant atteindre 90 USD par recommandation réussie, sous réserve des plafonds applicables