Faculty entwickelt wegweisende Lösungen im Bereich künstliche Intelligenz und maschinelles Lernen, die darauf ausgelegt sind, komplexe operative Herausforderungen in den Bereichen Verteidigung, Gesundheitswesen, Finanzdienstleistungen, öffentliche Verwaltung und Einzelhandel zu bewältigen. Das Unternehmen arbeitet mit Organisationen daran, fortschrittliche KI in Bereichen wie der nationalen Sicherheit, der Vorhersage von Ergebnissen und der Prozessoptimierung einzusetzen, wobei der Schwerpunkt auf praktischer Wirkung, verantwortungsvoller Einführung und Nachhaltigkeit liegt.
Senior Research Scientist für KI-Sicherheit – Evaluierungen bei Faculty (Hybrid, Vereinigtes Königreich)
Leiten Sie Forschungsarbeiten zu Evaluierungen der KI-Sicherheit für CBRN- und Cyberrisiken bei Faculty. Entwickeln Sie Methoden, Werkzeuge und Nachweise für den verantwortungsvollen Einsatz fortgeschrittener KI-Systeme.
Beschreibung
- Entwickeln Sie fortgeschrittene Evaluierungen der Sicherheit in besonders wirkungsrelevanten Bereichen, darunter CBRN und Cyber.
- Betreiben Sie eigenständige Forschung zur KI-Sicherheit – von der ersten Konzeption bis zur Veröffentlichung.
- Identifizieren Sie strategische Chancen, die die Forschungsagenda der Organisation im Bereich Sicherheitsevaluierungen stärken.
- Bringen Sie technische Expertise in Kundenprojekte, Evaluierungsprogramme und Red-Teaming mit Frontier-Labs ein.
- Vertreten Sie Faculty in Gesprächen mit Forschenden, Frontier-KI-Labs und staatlichen Akteuren.
- Erstellen Sie Publikationen, technische Berichte, Evaluierungsframeworks und Forschungswerkzeuge.
- Arbeiten Sie eng mit den Teams für KI-Sicherheit und Delivery bei Faculty zusammen.
Anforderungen
- Nachgewiesene Verantwortung für Forschungsarbeiten – von der Identifizierung origineller Fragestellungen bis zur Veröffentlichung.
- Praktische Erfahrung in der Entwicklung und Umsetzung von KI-Evaluierungen oder Benchmarks.
- Fähigkeit, die Konstruktvalidität zu beurteilen und Störfaktoren zu berücksichtigen.
- Expertise in Red-Teaming, adversarial testing, Jailbreaking, indirekter Prompt-Injection und der Robustheit von Sicherheitsmechanismen in Modellen.
- Fundierte Kenntnisse in Versuchsplanung, statistischer Analyse, Quantifizierung von Unsicherheiten und Bayes’schen Methoden.
- Umfassendes Verständnis von Sprachmodellen, Architekturen generativer KI, Trainingsansätzen und Maßnahmen zur Erhöhung der Sicherheit.
- Sehr gute Kenntnisse in Python.
- Verpflichtung zu robusten und reproduzierbaren Verfahren im Research Engineering.
- Erfahrung mit Bedrohungs- und Risikomodellierung ist wünschenswert.
- Kenntnisse oder Erfahrung in CBRN oder Cybersicherheit sind wünschenswert.
- Nachweis einflussreicher KI-Forschung durch führende Publikationen oder vergleichbare praktische Arbeit ist wünschenswert.
- Die Voraussetzungen für eine Visa-Sponsorship im Vereinigten Königreich werden im Bewerbungsprozess geprüft.
Zusatzleistungen
- Teilzeitarbeitsmodelle können besprochen werden.
- Ein auf Vielfalt und Inklusion ausgerichteter Recruiting-Ansatz.
- Zugang zu KI-Tools für Forschung und Interviewvorbereitung.
- Jede Bewerbung wird von Menschen geprüft.
- Möglichkeit, auf den KI-gestützten Interview-Mitschreiber zu verzichten.