Faculty utvikler banebrytende løsninger innen kunstig intelligens og maskinlæring for å håndtere komplekse operative utfordringer innen forsvar, helsevesen, finansielle tjenester, offentlige tjenester og detaljhandel. Selskapet samarbeider med organisasjoner om å anvende avansert kunstig intelligens på områder som nasjonal sikkerhet, prediksjon av resultater og prosessforbedring, med vekt på praktisk effekt, ansvarlig implementering og bærekraft.
Seniorforsker innen AI-sikkerhet – evalueringer hos Faculty (hybrid, Storbritannia)
Led forskning på evaluering av AI-sikkerhet for CBRN- og cyberrisiko hos Faculty. Utvikle metoder, verktøy og kunnskapsgrunnlag som støtter ansvarlig utrulling av avanserte AI-systemer.
Beskrivelse
- Utvikle avanserte sikkerhetsevalueringer innen høyrisikoområder, blant annet CBRN og cyber.
- Gjennomføre egen AI-sikkerhetsforskning fra den første ideen til publisering.
- Identifisere strategiske muligheter som styrker organisasjonens forskningsagenda for sikkerhetsevaluering.
- Bidra med teknisk ekspertise i kundeprosjekter, evalueringsprogrammer og red teaming av ledende AI-laboratorier.
- Representere Faculty i dialoger med forskere, ledende AI-laboratorier og myndighetsrepresentanter.
- Utarbeide publikasjoner, tekniske rapporter, evalueringsrammeverk og forskningsverktøy.
- Arbeide tett med Facultys team for AI-sikkerhet og leveranse.
Krav
- Dokumentert erfaring med å drive forskning fra identifisering av originale spørsmål til publisering.
- Praktisk erfaring med å utforme og implementere AI-evalueringer eller benchmarker.
- Evne til å vurdere begrepsvaliditet og håndtere konfunderende faktorer.
- Ekspertise innen red teaming, adversarial testing, jailbreaking, indirekte prompt injection og robusthet i modellens sikkerhetstiltak.
- Solid grunnlag i eksperimentdesign, statistisk analyse, kvantifisering av usikkerhet og bayesianske metoder.
- Grundig forståelse av språkmodeller, generative AI-arkitekturer, treningsmetoder og sikkerhetstiltak.
- Gode ferdigheter i Python.
- Forpliktelse til robuste og reproduserbare metoder innen forskningsutvikling.
- Erfaring med trussel- og risikomodellering er en fordel.
- Kunnskap om eller erfaring med CBRN eller cybersikkerhet er en fordel.
- Dokumenterte resultater innen innflytelsesrik AI-forskning gjennom ledende publikasjoner eller tilsvarende praktisk arbeid er en fordel.
- Krav til visumsponsing i Storbritannia vurderes i søknadsprosessen.
Fordeler
- Deltidsarbeid kan diskuteres.
- Rekrutteringsprosessen har fokus på mangfold og inkludering.
- Tilgang til AI-verktøy for forskning og intervjuforberedelser.
- Alle søknader gjennomgås av et menneske.
- Mulighet til å reservere seg mot AI-verktøyet som tar notater under intervjuet.