51 – 200 Employés
Les informations disponibles sur Mercor ne contiennent pas suffisamment de données vérifiées sur ses produits, services, clients, secteur ou orientation en matière de recrutement pour permettre une présentation exacte de l’entreprise. Des sources supplémentaires sont nécessaires avant de décrire l’activité de l’entreprise ou ses opportunités.
Expert à distance en sécurité de l’IA (anglais et kannada)
Réalisez des tests adversariaux sur les modèles d’IA de pointe de Mercor à l’aide d’entrées en anglais et en kannada afin d’identifier les vulnérabilités. Créez des données de sécurité reproductibles, des cas d’attaque et des rapports pour les clients de l’IA.
Description
- Testez des modèles et des agents d’IA conversationnelle avec des jailbreaks, des injections de prompts, des scénarios d’utilisation abusive, l’exploitation des biais et la manipulation sur plusieurs tours
- Créez des données produites par des humains en annotant les échecs, en catégorisant les vulnérabilités et en identifiant les risques systémiques
- Utilisez des taxonomies, des benchmarks et des guides établis afin de garantir la cohérence des évaluations
- Développez des rapports, des jeux de données et des cas d’attaque reproductibles que les clients pourront utiliser
- Évaluez les résultats de l’IA sur des sujets sensibles, notamment les biais, la désinformation et les comportements nuisibles
- Identifiez les faiblesses que les évaluations automatisées pourraient ne pas détecter
- Élargissez la couverture des évaluations afin de contribuer à prévenir les problèmes inattendus en production
- Contribuez à des projets qui entraînent et améliorent les systèmes d’IA pour le laboratoire d’IA de Mercor et ses clients professionnels
Exigences
- Maîtrise native ou courante de l’anglais et du kannada
- Bon jugement dans l’évaluation du langage et du contenu, notamment de l’exactitude, de l’exhaustivité et de la pertinence des réponses de l’IA
- Capacité à expliquer clairement son raisonnement à des publics techniques et non techniques
- Grande attention aux erreurs subtiles, aux incohérences et aux omissions
- Capacité à appliquer systématiquement les taxonomies, benchmarks, guides, consignes et normes de qualité
- Flexibilité pour travailler sur différents projets, formats de tâches et clients
- Vous devez travailler en tant que prestataire indépendant
- Les candidats ne doivent pas chercher à obtenir le statut H-1B ou STEM OPT
- Expérience souhaitée en apprentissage automatique adversarial avec des jeux de données de jailbreak, l’injection de prompts, les attaques RLHF ou DPO, ou l’extraction de modèles
- Expérience souhaitée en cybersécurité, notamment en tests d’intrusion, développement d’exploits ou rétro-ingénierie
- Expérience souhaitée des risques sociotechniques, comme l’analyse du harcèlement ou de la désinformation, l’analyse des abus ou les tests d’IA conversationnelle
- Expérience souhaitée en psychologie, en interprétation ou en écriture favorisant une réflexion adversariale non conventionnelle
Avantages
- Travail contractuel entièrement à distance avec des horaires flexibles
- Paiement hebdomadaire par Stripe ou Wise selon les services fournis
- Possibilité d’acquérir une expérience en red teaming de l’IA fondé sur des données humaines et axé sur la sécurité des modèles de pointe
- Contribution concrète à rendre les systèmes d’IA plus robustes, sûrs et fiables
- Ressources de bien-être et consignes précises pour les projets impliquant du contenu plus sensible
- Aménagements raisonnables disponibles sur demande
- Primes de recommandation allant jusqu’à 90 $ par recommandation réussie, sous réserve des restrictions applicables