51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Spécialiste du test adversarial de la sécurité des modèles d’IA
Mettez à l’épreuve les modèles d’IA de pointe de Mercor pour détecter leurs failles de sécurité grâce à des tests adversariaux. Repérez les vulnérabilités et contribuez à améliorer l’alignement des modèles.
Description
- Créez des prompts adversariaux pour tester des modèles d’IA de pointe.
- Repérez les jailbreaks, les comportements dangereux, les hallucinations et les violations des politiques.
- Évaluez la résilience des modèles face à la désinformation, à la cybersécurité, à la biosécurité, à la fraude, aux contenus politiques et à d’autres domaines sensibles.
- Consignez les vulnérabilités et contribuez à produire des benchmarks de sécurité et des rapports de red teaming.
- Collaborez avec des chercheurs en IA pour renforcer l’alignement, la résilience et la sécurité des modèles.
- Contribuez à protéger et à améliorer la prochaine génération de modèles d’IA de pointe.
- Participez à des projets d’entraînement et d’amélioration des systèmes d’IA.
Exigences
- Diplôme de niveau licence ou supérieur en informatique, cybersécurité, journalisme, communication, psychologie, biologie, chimie, politiques publiques ou dans un domaine connexe
- Au moins cinq ans d’expérience professionnelle en sécurité de l’IA, red teaming de l’IA, confiance et sécurité, cybersécurité, journalisme d’investigation, sciences de la vie ou dans un domaine connexe
- Excellentes capacités de raisonnement analytique, de conception de prompts et de rédaction
- Expérience dans la création de prompts adversariaux ou l’évaluation de systèmes d’IA de pointe
- Une expérience en red teaming de l’IA, RLHF, réglage fin supervisé, alignement de l’IA ou confiance et sécurité est souhaitée
- Une bonne connaissance des tests de jailbreak, de l’ingénierie de prompts ou des méthodes d’évaluation adversariale est souhaitée
- Une expertise dans au moins un domaine sensible, comme la cybersécurité, la biosécurité, les contenus politiques, la désinformation ou la sécurité scientifique, est souhaitée
- Ne pas avoir besoin d’un parrainage pour un visa H-1B ou STEM OPT ; Mercor ne peut pas parrainer les candidats qui ont besoin de l’un ou l’autre
Avantages
- Travail entièrement à distance avec des horaires flexibles
- Paiements hebdomadaires via Stripe ou Wise pour les services rendus
- La durée du projet peut évoluer ou prendre fin plus tôt selon les besoins du projet et les performances
- Travail aux côtés de chercheurs en IA et d’équipes de sécurité de premier plan
- Contribuez à définir la manière dont les systèmes d’IA traitent des défis de sécurité complexes du monde réel
- Des aménagements raisonnables sont disponibles sur demande
- Primes de recommandation pouvant atteindre 340 $ par recommandation réussie, sous réserve de limites