51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Spécialiste des tests de sécurité de l’IA
Mettez à l’épreuve les systèmes d’IA de pointe des laboratoires partenaires de Mercor en recherchant des vulnérabilités dans des domaines à haut risque. Contribuez aux benchmarks de sécurité et aidez les chercheurs à améliorer la robustesse et l’alignement des modèles.
Description
- Créez des prompts adversariaux pour tester des modèles d’IA de pointe.
- Repérez les jailbreaks, les comportements dangereux, les hallucinations et les manquements aux règles.
- Évaluez la robustesse des modèles dans des domaines sensibles tels que la désinformation, la cybersécurité, la biosécurité, la fraude et les contenus politiques.
- Consignez les vulnérabilités et contribuez aux benchmarks de sécurité et aux rapports d’équipes rouges.
- Collaborez avec des chercheurs en IA pour renforcer l’alignement, la robustesse et la sécurité des modèles.
- Contribuez à des projets de formation et d’amélioration des systèmes d’IA.
- Organisez votre emploi du temps ; la durée du projet peut évoluer ou être écourtée selon les besoins de l’entreprise et les performances.
Exigences
- Licence ou diplôme supérieur en informatique, cybersécurité, journalisme, communication, psychologie, biologie, chimie, politiques publiques ou dans un domaine connexe.
- Au moins cinq ans d’expérience professionnelle en sécurité de l’IA, tests d’intrusion de l’IA en équipe rouge, confiance et sécurité, cybersécurité, journalisme d’investigation, sciences de la vie ou dans un domaine connexe.
- Excellentes capacités de raisonnement analytique, de conception de prompts et de rédaction.
- Expérience dans la création de prompts adversariaux ou l’évaluation de systèmes d’IA de pointe.
- Atout : expérience des tests d’IA en équipe rouge, du RLHF, du SFT, de l’alignement de l’IA ou de la confiance et de la sécurité.
- Atout : connaissance des tests de jailbreak, de l’ingénierie de prompts ou des méthodes d’évaluation adversariale.
- Atout : expertise dans un ou plusieurs domaines sensibles, notamment la cybersécurité, la biosécurité, les contenus politiques, la désinformation ou la sécurité scientifique.
- La mission s’effectue en tant que prestataire indépendant.
- Vous devez pouvoir travailler sans aide liée au visa H-1B ou au STEM OPT.
Avantages
- Travail entièrement à distance avec des horaires flexibles.
- Paiements hebdomadaires via Stripe ou Wise pour les services fournis.
- Travaillez aux côtés de chercheurs en IA et d’équipes de sécurité de premier plan.
- Contribuez à façonner la manière dont les systèmes d’IA répondent à des enjeux de sécurité complexes et concrets.
- Rémunération compétitive.
- Aménagements raisonnables disponibles sur demande.
- Jusqu’à 340 USD de prime pour chaque recommandation aboutie, dans la limite des plafonds applicables.