51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Spécialiste du red teaming en sécurité de l'IA - Télétravail aux États-Unis
Mercor recherche un spécialiste en red teaming de l'IA, en télétravail, pour mettre à l'épreuve des modèles d'IA de pointe et révéler des vulnérabilités dans des domaines à haut risque. Ce poste contractuel contribue au développement et à l'amélioration de systèmes avancés par des laboratoires d'IA.
Description
- Créer des prompts adversariaux pour sonder des modèles d'IA de pointe
- Détecter les jailbreaks, les comportements dangereux, les hallucinations et les violations de politiques
- Évaluer la résilience des modèles face à la désinformation, aux cybermenaces, aux risques de biosécurité, à la fraude, aux contenus politiques et à d'autres sujets sensibles
- Consigner les vulnérabilités découvertes et contribuer à la production de benchmarks de sécurité et de rapports de red teaming
- Collaborer avec des chercheurs en IA pour renforcer l'alignement, la robustesse et la sécurité des modèles
- Contribuer à des projets qui entraînent et améliorent les systèmes d'IA
Exigences
- Diplôme de licence ou niveau supérieur en informatique, cybersécurité, journalisme, communication, psychologie, biologie, chimie, politiques publiques ou domaine connexe
- Au moins cinq ans d'expérience professionnelle dans la sécurité de l'IA, le red teaming de l'IA, la confiance et la sécurité, la cybersécurité, le journalisme d'investigation, les sciences de la vie ou un domaine connexe
- Excellent jugement analytique, aptitude à concevoir des prompts et solides compétences en communication écrite
- Expérience dans la création de prompts adversariaux ou l'évaluation de systèmes d'IA de pointe
- Une expérience en red teaming de l'IA, RLHF, SFT, alignement de l'IA ou confiance et sécurité est un atout
- Une connaissance des tests de jailbreak, de l'ingénierie des prompts ou des méthodes d'évaluation adversariales est un atout
- Une expertise dans au moins un domaine sensible, comme la cybersécurité, la biosécurité, les contenus politiques, la désinformation ou la sécurité scientifique, est un atout
- Capacité à travailler en tant que prestataire indépendant
- Les candidats H-1B et STEM OPT ne sont pas pris en charge
Avantages
- Travail entièrement à distance
- Emploi du temps flexible et autogéré
- Paiements hebdomadaires via Stripe ou Wise
- Les projets peuvent être prolongés, raccourcis ou arrêtés plus tôt selon les besoins de l'entreprise et les performances
- Rémunération compétitive
- Collaboration avec des chercheurs en IA et des équipes de sécurité de premier plan
- Des aménagements raisonnables sont disponibles sur demande
- Primes de recommandation pouvant atteindre 340 $ par recommandation réussie, sous réserve des limites applicables