51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA : anglais et assamais (contrat à distance)
Testez des systèmes d’IA conversationnelle pour détecter les jailbreaks, les biais, les risques d’injection de prompts et d’autres vulnérabilités. Créez des artefacts clairs et reproductibles issus de données humaines afin de contribuer à rendre l’IA avancée plus sûre et plus fiable.
Description
- Tester des modèles et des agents d’IA conversationnelle afin de détecter les jailbreaks, les injections de prompts, les scénarios d’usage abusif, l’exploitation des biais et la manipulation sur plusieurs échanges
- Créer des annotations de données humaines en documentant les échecs, en catégorisant les vulnérabilités et en identifiant les risques systémiques
- Utiliser des taxonomies, des benchmarks et des playbooks établis pour garantir la cohérence des évaluations
- Fournir aux clients des rapports, des jeux de données et des scénarios d’attaque reproductibles
- Identifier les faiblesses que les tests automatisés peuvent négliger
- Élargir la couverture des évaluations afin de contribuer à réduire les problèmes inattendus en production
- Évaluer les réponses de l’IA sur des sujets sensibles conformément aux directives fournies
Exigences
- Maîtrise native de l’anglais et de l’assamais
- Bon jugement pour évaluer le langage et le contenu, notamment l’exactitude, l’exhaustivité et la pertinence des réponses de l’IA
- Grande attention aux erreurs subtiles, aux incohérences et aux omissions
- Respect constant des directives et des normes de qualité
- Capacité à expliquer clairement son raisonnement à des publics techniques et non techniques
- Flexibilité pour travailler sur différents projets, formats de tâches et clients
- Statut de prestataire indépendant
- À l’aise avec les sujets sensibles tels que les biais, la désinformation et les comportements nuisibles ; la participation à des projets plus sensibles est facultative
- Les candidats titulaires d’un visa H-1B ou du STEM OPT ne sont pas pris en charge
Avantages
- Travail entièrement à distance avec des horaires flexibles que vous définissez
- Paiements hebdomadaires via Stripe ou Wise
- Possibilité d’acquérir de l’expérience en red teaming de l’IA fondé sur des données humaines
- Contribution concrète à des systèmes d’IA plus robustes, sûrs et fiables
- Possibilités de collaboration avec des chercheurs de premier plan
- Des aménagements raisonnables sont disponibles sur demande
- Prime de recommandation pouvant atteindre 90 USD pour chaque recommandation réussie