51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert en sécurité de l’IA, anglais et finnois
Sondez les systèmes d’IA de pointe pour repérer leurs vulnérabilités à l’aide de jailbreaks, d’injections de prompt et de scénarios d’usage abusif. Produisez des constats structurés et des exemples d’attaques reproductibles afin de contribuer à l’évaluation de la sécurité de l’IA.
Description
- Testez des modèles et des agents d’IA conversationnelle au moyen de jailbreaks, d’injections de prompt, de scénarios d’usage abusif, d’exploitation des biais et de manipulations sur plusieurs échanges.
- Créez des données annotées par des humains en documentant les échecs, en classant les vulnérabilités et en repérant les risques systémiques.
- Utilisez des taxonomies, des benchmarks et des guides pour assurer la cohérence des tests.
- Fournissez aux clients des rapports reproductibles, des jeux de données et des cas d’attaque.
- Évaluez les réponses de l’IA sur des sujets sensibles, notamment les biais, la désinformation et les comportements préjudiciables.
- Repérez les vulnérabilités que les tests automatisés pourraient manquer.
- Élargissez la couverture des évaluations afin de contribuer à prévenir les problèmes imprévus en production.
- Contribuez à des projets qui entraînent et améliorent des systèmes d’IA de pointe.
Exigences
- Maîtrise courante ou niveau natif de l’anglais et du finnois.
- Expérience préalable en red teaming de l’IA, en cybersécurité ou en analyse sociotechnique adversariale.
- Capacité à tester les systèmes d’IA de manière adversariale et à les pousser dans leurs retranchements.
- Expérience des cadres ou benchmarks de tests structurés.
- Capacité à expliquer clairement les risques à des publics techniques et non techniques.
- Capacité à s’adapter à différents projets et clients.
- Une spécialisation en apprentissage automatique adversarial, en cybersécurité, en risques sociotechniques ou en méthodes d’exploration créatives est un atout.
- Mission en tant que prestataire indépendant.
- Ne doit pas nécessiter de parrainage pour un visa H-1B ou STEM OPT.
Avantages
- Travail entièrement à distance.
- Horaires flexibles avec la possibilité de choisir vos propres heures de travail.
- Paiements hebdomadaires via Stripe ou Wise.
- Les projets peuvent être prolongés, raccourcis ou interrompus avant terme en fonction des besoins et des performances.
- Ressources consacrées au bien-être et consignes claires pour les projets portant sur des sujets particulièrement sensibles.
- Aménagements raisonnables disponibles sur demande.
- Possibilité d’acquérir de l’expérience en red teaming de l’IA fondé sur des données annotées par des humains.
- Collaboration avec des chercheurs de premier plan.
- Primes de recommandation pouvant atteindre 250 $ par recommandation réussie ; des limites s’appliquent.