51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA (anglais et gujarati) – Contrat à distance
Réalisez des évaluations en red team de modèles et d’agents d’IA conversationnelle pour Mercor, partenaire d’un laboratoire d’IA axé sur l’entraînement de systèmes de pointe. Créez des données de vulnérabilités, des scénarios d’attaque et des rapports de sécurité reproductibles.
Description
- Testez des modèles et des agents d’IA conversationnelle à l’aide de jailbreaks, d’injections de prompts, de scénarios d’utilisation abusive, d’exploitation des biais et de manipulations sur plusieurs tours
- Créez des données annotées par des humains en documentant les échecs, en catégorisant les vulnérabilités et en identifiant les risques systémiques
- Utilisez des taxonomies, des benchmarks et des playbooks établis pour garantir des évaluations cohérentes
- Élaborez des rapports, des jeux de données et des scénarios d’attaque reproductibles
- Évaluez les réponses de l’IA concernant les biais, la désinformation, les comportements préjudiciables et d’autres sujets sensibles
- Identifiez les faiblesses que les tests automatisés pourraient ne pas détecter
- Élargissez la couverture des évaluations afin de contribuer à limiter les problèmes inattendus en production
- Améliorez les systèmes d’IA des clients grâce à des éléments d’évaluation clairs et reproductibles
Exigences
- Maîtrise native ou courante de l’anglais et du gujarati
- Bon jugement lors de l’évaluation du langage et du contenu
- Capacité à déterminer si les réponses de l’IA sont exactes, complètes et appropriées, et à expliquer cette évaluation
- Grande attention aux erreurs subtiles, aux incohérences et aux omissions
- Respect constant des directives et des exigences de qualité
- Capacité à communiquer clairement son raisonnement à des publics techniques et non techniques
- Flexibilité pour travailler sur différents projets, formats de tâches et clients
- Une expertise en apprentissage automatique adversarial, cybersécurité, risques sociotechniques ou exploration créative est appréciée
- Disponibilité pour travailler comme prestataire indépendant
- Les candidats titulaires d’un H-1B ou d’un STEM OPT ne sont pas acceptés
Avantages
- Travail entièrement à distance
- Choisissez vos propres horaires de travail
- Recevez des paiements hebdomadaires via Stripe ou Wise
- Rémunération horaire compétitive
- Possibilité de participer à des projets impliquant des contenus plus sensibles
- Accès à des conseils clairs et à des ressources de bien-être pour le travail sur des contenus sensibles
- Des aménagements raisonnables sont disponibles sur demande
- Gagnez jusqu’à 90 USD de prime pour chaque recommandation réussie