Faculty udvikler banebrydende løsninger inden for AI og maskinlæring, der er designet til at håndtere komplekse operationelle udfordringer inden for forsvar, sundhedspleje, finansielle tjenester, offentlige tjenester og detailhandel. Virksomheden samarbejder med organisationer om at anvende avanceret AI inden for områder som national sikkerhed, forudsigelse af resultater og procesforbedring med fokus på praktisk effekt, ansvarlig implementering og bæredygtighed.
Seniorforsker i AI-sikkerhed – evalueringer hos Faculty (hybrid, Storbritannien)
Led forskning i evaluering af AI-sikkerhed for CBRN- og cyberrisici hos Faculty. Udvikl metoder, værktøjer og evidens, der understøtter ansvarlig implementering af avancerede AI-systemer.
Beskrivelse
- Udvikl avancerede sikkerhedsevalueringer inden for højrisikoområder, herunder CBRN og cyber.
- Gennemfør original AI-sikkerhedsforskning fra den første idé til publicering.
- Identificér strategiske muligheder, der styrker organisationens forskningsagenda for sikkerhedsevaluering.
- Bidrag med teknisk ekspertise til kundeprojekter, evalueringsprogrammer og red teaming af frontlinjelaboratorier.
- Repræsentér Faculty i dialoger med forskere, førende AI-laboratorier og myndighedsrepræsentanter.
- Udarbejd publikationer, tekniske rapporter, evalueringsrammer og forskningsværktøjer.
- Arbejd tæt sammen med Facultys AI-sikkerheds- og leveranceteams.
Krav
- Dokumenteret erfaring med at drive forskning fra identifikation af originale spørgsmål til publicering.
- Praktisk erfaring med at designe og implementere AI-evalueringer eller benchmarks.
- Evne til at vurdere begrebsvaliditet og håndtere konfunderende faktorer.
- Ekspertise inden for red teaming, adversarial testing, jailbreaking, indirekte prompt injection og robusthed af modellsikkerhedsforanstaltninger.
- Stærkt fundament i eksperimentelt design, statistisk analyse, kvantificering af usikkerhed og bayesianske metoder.
- Indgående forståelse af sprogmodeller, generative AI-arkitekturer, træningsmetoder og sikkerhedsforanstaltninger.
- Gode kundskaber i Python.
- Engagement i robuste og reproducerbare metoder inden for forskningsengineering.
- Erfaring med trussels- og risikomodellering er en fordel.
- Viden om eller erfaring med CBRN eller cybersikkerhed er en fordel.
- Dokumenteret indflydelsesrig AI-forskning gennem førende publikationer eller tilsvarende praktisk arbejde er en fordel.
- Krav om visumsponsorering i Storbritannien vurderes under ansøgningsprocessen.
Fordele
- Deltidsarbejde kan drøftes.
- Rekrutteringsprocessen har fokus på mangfoldighed og inklusion.
- Adgang til AI-værktøjer til forskning og forberedelse til interviews.
- Alle ansøgninger gennemgås af et menneske.
- Mulighed for at fravælge AI-værktøjet, der tager noter under interviewet.