Faculty utvecklar banbrytande lösningar inom AI och maskininlärning för att hantera komplexa operativa utmaningar inom försvar, hälso- och sjukvård, finansiella tjänster, offentlig verksamhet och detaljhandel. Företaget samarbetar med organisationer för att tillämpa avancerad AI inom områden som nationell säkerhet, prognostisering av utfall och processförbättring, med fokus på praktisk nytta, ansvarsfull implementering och hållbarhet.
Senior forskare inom AI-säkerhet – utvärderingar på Faculty (hybrid, Storbritannien)
Led forskning om utvärdering av AI-säkerhet för CBRN- och cyberrisker på Faculty. Utveckla metoder, verktyg och evidens som stödjer ansvarsfull implementering av avancerade AI-system.
Beskrivning
- Utveckla avancerade säkerhetsutvärderingar inom högriskområden, däribland CBRN och cyber.
- Bedriv egen AI-säkerhetsforskning från den första idén till publicering.
- Identifiera strategiska möjligheter som stärker organisationens forskningsagenda för säkerhetsutvärdering.
- Bidra med teknisk expertis i kundprojekt, utvärderingsprogram och red teaming av frontlinjelaboratorier.
- Företräda Faculty i dialoger med forskare, ledande AI-laboratorier och myndighetsrepresentanter.
- Ta fram publikationer, tekniska rapporter, utvärderingsramverk och forskningsverktyg.
- Arbeta nära Facultys team för AI-säkerhet och leverans.
Krav
- Dokumenterad erfarenhet av att driva forskning från identifiering av originella frågeställningar till publicering.
- Praktisk erfarenhet av att utforma och implementera AI-utvärderingar eller benchmarktester.
- Förmåga att bedöma begreppsvaliditet och hantera störande faktorer.
- Expertis inom red teaming, adversarial testing, jailbreaking, indirekt promptinjektion och robusthet hos modellsäkerhetsåtgärder.
- Goda kunskaper i experimentdesign, statistisk analys, osäkerhetskvantifiering och bayesianska metoder.
- Gedigen förståelse för språkmodeller, generativa AI-arkitekturer, träningsmetoder och säkerhetsåtgärder.
- Goda kunskaper i Python.
- Engagemang för robusta och reproducerbara metoder inom forskningsutveckling.
- Erfarenhet av hot- och riskmodellering är meriterande.
- Kunskap om eller erfarenhet av CBRN eller cybersäkerhet är meriterande.
- Dokumenterad inflytelserik AI-forskning genom ledande publikationer eller motsvarande praktiskt arbete är meriterande.
- Krav på visumsponsring i Storbritannien bedöms under ansökningsprocessen.
Förmåner
- Deltidsarbete kan diskuteras.
- Rekryteringsprocessen har fokus på mångfald och inkludering.
- Tillgång till AI-verktyg för forskning och intervjuförberedelser.
- Varje ansökan granskas av en människa.
- Möjlighet att avstå från AI-verktyget som antecknar under intervjun.