Faculty ontwikkelt geavanceerde oplossingen op het gebied van kunstmatige intelligentie en machine learning, ontworpen om complexe operationele uitdagingen aan te pakken in de defensie, gezondheidszorg, financiële dienstverlening, publieke sector en retail. Het bedrijf werkt samen met organisaties om geavanceerde AI toe te passen op gebieden zoals nationale veiligheid, resultaatvoorspelling en procesverbetering, met nadruk op praktische impact, verantwoorde implementatie en duurzaamheid.
Senior Research Scientist AI-veiligheid – Evaluaties bij Faculty (Hybride, Verenigd Koninkrijk)
Leid onderzoek naar evaluaties van AI-veiligheid voor CBRN- en cyberrisico’s bij Faculty. Ontwikkel methoden, tools en onderbouwing voor de verantwoorde inzet van geavanceerde AI-systemen.
Beschrijving
- Ontwikkel geavanceerde veiligheidsevaluaties voor gebieden met grote impact, waaronder CBRN en cyberveiligheid.
- Voer zelfstandig onderzoek naar AI-veiligheid uit, van het eerste concept tot publicatie.
- Identificeer strategische kansen die de onderzoeksagenda van de organisatie voor veiligheidsevaluaties versterken.
- Bied technische expertise voor klantprojecten, evaluatieprogramma’s en red-teaming bij frontierlabs.
- Vertegenwoordiger Faculty in gesprekken met onderzoekers, frontierlabs voor AI en overheidsbelanghebbenden.
- Maak publicaties, technische rapporten, evaluatiekaders en onderzoekstools.
- Werk nauw samen met de teams voor AI-veiligheid en delivery van Faculty.
Vereisten
- Aantoonbare verantwoordelijkheid voor onderzoek, van het formuleren van originele vragen tot publicatie.
- Praktische ervaring met het ontwerpen en uitvoeren van AI-evaluaties of benchmarks.
- Vermogen om constructvaliditeit te beoordelen en verstorende factoren aan te pakken.
- Expertise in red-teaming, adversarial testing, jailbreaking, indirecte promptinjectie en de robuustheid van veiligheidsmaatregelen in modellen.
- Sterke basis in experimenteel ontwerp, statistische analyse, onzekerheidskwantificering en Bayesiaanse methoden.
- Grondige kennis van taalmodellen, generatieve AI-architecturen, trainingsmethoden en veiligheidsmaatregelen.
- Vaardigheid in Python.
- Toewijding aan robuuste en reproduceerbare werkwijzen voor research engineering.
- Ervaring met dreigings- en risicomodellering is gewenst.
- Kennis van of ervaring met CBRN of cybersecurity is gewenst.
- Een staat van dienst op het gebied van invloedrijk AI-onderzoek, aangetoond met toonaangevende publicaties of vergelijkbaar praktisch werk, is gewenst.
- De vereisten voor visumsponsoring in het Verenigd Koninkrijk worden tijdens het sollicitatieproces beoordeeld.
Voordelen
- Mogelijkheden voor parttimewerk kunnen worden besproken.
- Een wervingsaanpak gericht op diversiteit en inclusie.
- Toegang tot AI-tools voor onderzoek en voorbereiding op sollicitatiegesprekken.
- Elke sollicitatie wordt door een medewerker beoordeeld.
- Mogelijkheid om af te zien van de AI-notulist voor sollicitatiegesprekken.