Faculty entwickelt wegweisende Lösungen im Bereich künstliche Intelligenz und maschinelles Lernen, die darauf ausgelegt sind, komplexe operative Herausforderungen in den Bereichen Verteidigung, Gesundheitswesen, Finanzdienstleistungen, öffentliche Verwaltung und Einzelhandel zu bewältigen. Das Unternehmen arbeitet mit Organisationen daran, fortschrittliche KI in Bereichen wie der nationalen Sicherheit, der Vorhersage von Ergebnissen und der Prozessoptimierung einzusetzen, wobei der Schwerpunkt auf praktischer Wirkung, verantwortungsvoller Einführung und Nachhaltigkeit liegt.
KI-Sicherheitsforschungswissenschaftler:in – Hybrid in London
Als Forschungswissenschaftler:in untersuchen und steuern Sie das Verhalten transformerbasierter großer Sprachmodelle bei Faculty. Die Arbeit verbindet anspruchsvolle KI-Sicherheitsforschung, reproduzierbare Werkzeuge und praktische Anwendungen.
Beschreibung
- Untersuchen Sie Fragen der KI-Sicherheit, die den verantwortungsvollen Einsatz vertrauenswürdiger KI unterstützen
- Planen und führen Sie Experimente durch, um das Modellverhalten zu verstehen und zu beeinflussen
- Nutzen Sie White-Box- und Black-Box-Ansätze zur Analyse transformerbasierter großer Sprachmodelle
- Entwickeln Sie modulare, reproduzierbare Python-Forschungssoftware mit Werkzeugen wie PyTorch
- Erstellen und unterstützen Sie die für die Forschung erforderliche Infrastruktur und technische Werkzeuge
- Teilen Sie Ergebnisse durch wissenschaftliche Veröffentlichungen, technische Berichte und Präsentationen
- Arbeiten Sie mit erfahrenen Wissenschaftler:innen zusammen, um Lücken in der Forschungsliteratur zu identifizieren, Hypothesen zu prüfen und Forschungsprogramme zu konzipieren
- Erläutern Sie technische Erkenntnisse gegenüber führenden Forschungslaboren, Regierungsorganisationen, externen Partnern und Sicherheitsinstituten
Anforderungen
- Fundierte Kenntnisse in maschinellem Lernen und Transformer-Architekturen, insbesondere großen Sprachmodellen
- Anwendungskenntnisse in White-Box- und Black-Box-Interpretierbarkeitsmethoden, einschließlich Steuerungsvektoren und mechanistischer Interpretierbarkeit
- Fähigkeit, aus strukturierten technischen Herausforderungen gut formulierte Hypothesen abzuleiten
- Fortgeschrittene Python-Kenntnisse und Erfahrung mit Deep-Learning-Frameworks wie PyTorch
- Nachweislich saubere, modulare Forschungssoftware entwickelt zu haben
- Erfahrung in der Verwaltung von Code mit Git
- Klare Kommunikationsfähigkeiten zur Präsentation komplexer technischer Ideen und experimenteller Ergebnisse in Berichten und Präsentationen
- Eine neugierige, sorgfältige und analytische Herangehensweise an Forschung
- Vertrautheit mit Themen der KI-Sicherheit wie Robustheit, Evaluierung oder Unsicherheitskalibrierung
- Fähigkeit anzugeben, ob eine britische Arbeitserlaubnis erforderlich ist
Zusatzleistungen
- Teilzeitmodelle können besprochen werden
- Jede Bewerbung wird von einer Person geprüft und nicht von einer KI entschieden
- KI-Tools dürfen für Forschung und die Vorbereitung auf Bewerbungsgespräche genutzt werden
- Auf KI-gestützte Notizen während des Bewerbungsgesprächs kann verzichtet werden