51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA, anglais et néerlandais (contrat à distance)
Mercor recherche des experts en sécurité de l’IA parlant anglais et néerlandais pour effectuer des tests red team sur des modèles et agents conversationnels. Le travail consiste à créer des données sur les vulnérabilités, des scénarios d’attaque et des rapports de sécurité reproductibles pour le développement d’IA de pointe.
Description
- Tester des modèles et agents d’IA conversationnels au moyen de jailbreaks, d’injections de prompts, de scénarios d’utilisation abusive, d’exploitation des biais et de manipulations sur plusieurs tours
- Créer des données humaines en annotant les défaillances, en classant les vulnérabilités et en identifiant les risques systémiques
- Utiliser des taxonomies, des benchmarks et des guides opérationnels pour assurer des tests de sécurité cohérents
- Élaborer des rapports, des jeux de données et des cas d’attaque reproductibles pour les clients
- Identifier les vulnérabilités que les tests automatisés peuvent négliger
- Élargir la couverture des évaluations afin de contribuer à réduire les risques imprévus en production
- Collaborer avec des chercheurs de premier plan pour entraîner et améliorer des systèmes d’IA de pointe
Exigences
- Maîtrise native de l’anglais et du néerlandais
- Expérience antérieure en red teaming de l’IA, en travail offensif de cybersécurité ou en exploration sociotechnique
- Capacité à tester les systèmes d’IA de manière adversariale et à les pousser vers des conditions d’échec
- Expérience de l’application de cadres ou de benchmarks à des tests structurés
- Capacité à communiquer clairement les risques à des publics techniques et non techniques
- Capacité à s’adapter à différents projets et clients
- Une expérience en apprentissage automatique adversarial avec des jeux de données de jailbreak, des injections de prompts, des attaques RLHF/DPO ou l’extraction de modèles est souhaitée
- Une expérience en cybersécurité dans les tests d’intrusion, le développement d’exploits ou la rétro-ingénierie est souhaitée
- Une expérience des risques sociotechniques liés aux tests de harcèlement ou de désinformation, à l’analyse des abus ou aux tests d’IA conversationnelle est souhaitée
- Une expérience de l’exploration créative en psychologie, en jeu d’acteur ou en écriture est souhaitée
- Doit pouvoir travailler comme prestataire indépendant
- Les candidats titulaires d’un visa H-1B ou STEM OPT ne sont pas pris en charge
Avantages
- Travail entièrement à distance
- Horaires flexibles avec la possibilité de définir ses propres heures
- Paiements hebdomadaires via Stripe ou Wise selon les services fournis
- Les projets peuvent être prolongés, raccourcis ou arrêtés plus tôt en fonction des besoins de l’entreprise et des performances
- La participation à des projets plus sensibles est facultative
- Des directives relatives au contenu et des ressources de bien-être sont fournies
- Des aménagements raisonnables sont disponibles sur demande
- Rémunération horaire compétitive
- Possibilité de recevoir jusqu’à 250 USD par recommandation réussie, sous réserve de limites