Faculty développe des solutions d’intelligence artificielle et d’apprentissage automatique de pointe conçues pour relever des défis opérationnels complexes dans les secteurs de la défense, de la santé, des services financiers, des services publics et du commerce de détail. L’entreprise collabore avec des organisations pour appliquer l’IA avancée à des domaines tels que la sécurité nationale, la prévision des résultats et l’amélioration des processus, en mettant l’accent sur l’impact concret, un déploiement responsable et la durabilité.
Scientifique de recherche senior en sécurité de l’IA – Évaluations chez Faculty (hybride, Royaume-Uni)
Dirigez des recherches sur les évaluations de la sécurité de l’IA pour les risques CBRN et cyber chez Faculty. Développez des méthodes, des outils et des éléments probants favorisant le déploiement responsable de systèmes d’IA avancés.
Description
- Développer des évaluations avancées de la sécurité pour des domaines à fort impact, notamment les risques CBRN et cyber.
- Mener des recherches originales sur la sécurité de l’IA, de la conception initiale à la publication.
- Identifier des opportunités stratégiques qui renforcent l’orientation de recherche de l’organisation en matière d’évaluation de la sécurité.
- Apporter une expertise technique aux projets clients, aux programmes d’évaluation et aux exercices de red teaming avec des laboratoires d’IA de pointe.
- Représenter Faculty dans les échanges avec des chercheurs, des laboratoires d’IA de pointe et des parties prenantes gouvernementales.
- Produire des publications, des rapports techniques, des cadres d’évaluation et des outils de recherche.
- Travailler en étroite collaboration avec les équipes de sécurité de l’IA et de mise en œuvre de Faculty.
Exigences
- Expérience avérée de la conduite de recherches, de l’identification de questions originales jusqu’à la publication.
- Expérience pratique de la conception et de la mise en œuvre d’évaluations ou de benchmarks d’IA.
- Capacité à évaluer la validité de construit et à traiter les facteurs de confusion.
- Expertise en red teaming, tests adversariaux, jailbreaks, injection indirecte de prompts et robustesse des dispositifs de protection des modèles.
- Solides compétences en conception expérimentale, analyse statistique, quantification de l’incertitude et méthodes bayésiennes.
- Excellente compréhension des modèles de langage, des architectures d’IA générative, des approches d’entraînement et des mesures d’atténuation des risques.
- Maîtrise de Python.
- Engagement en faveur de pratiques robustes et reproductibles d’ingénierie de recherche.
- Une expérience de la modélisation des menaces et des risques est souhaitable.
- Des connaissances ou une expérience en CBRN ou en cybersécurité sont souhaitables.
- Un parcours de recherche influent en IA, attesté par des publications de premier plan ou une expérience pratique comparable, est souhaitable.
- Les conditions de parrainage pour un visa britannique sont évaluées pendant le processus de candidature.
Avantages
- Des modalités de travail à temps partiel peuvent être discutées.
- Processus de recrutement axé sur la diversité et l’inclusion.
- Accès à des outils d’IA pour la recherche et la préparation aux entretiens.
- Chaque candidature fait l’objet d’un examen humain.
- Possibilité de refuser l’utilisation de l’outil d’IA chargé de prendre des notes pendant l’entretien.