Faculty utvecklar banbrytande lösningar inom AI och maskininlärning för att hantera komplexa operativa utmaningar inom försvar, hälso- och sjukvård, finansiella tjänster, offentlig verksamhet och detaljhandel. Företaget samarbetar med organisationer för att tillämpa avancerad AI inom områden som nationell säkerhet, prognostisering av utfall och processförbättring, med fokus på praktisk nytta, ansvarsfull implementering och hållbarhet.
AI-säkerhetsforskare – hybridarbete i London
Rollen som forskare fokuserar på att förstå och styra beteendet hos transformerbaserade stora språkmodeller vid Faculty. Arbetet kombinerar rigorös AI-säkerhetsforskning, reproducerbara verktyg och praktiska tillämpningar.
Beskrivning
- Undersök frågor inom AI-säkerhet som stödjer ansvarsfull användning av tillförlitlig AI
- Planera och genomför experiment för att förstå och påverka modellbeteende
- Använd white-box- och black-box-metoder för att analysera transformerbaserade stora språkmodeller
- Skriv modulär och reproducerbar forskningsprogramvara i Python med verktyg som PyTorch
- Skapa och stöd den infrastruktur och de tekniska verktyg som krävs för forskning
- Dela resultat genom akademiska publikationer, tekniska rapporter och presentationer
- Arbeta med seniora forskare för att identifiera luckor i forskningslitteraturen, testa hypoteser och utforma forskningsprogram
- Förklara tekniska resultat för banbrytande laboratorier, statliga organisationer, externa partner och säkerhetsinstitut
Krav
- Stark grund inom maskininlärning och transformerarkitekturer, särskilt stora språkmodeller
- Praktisk kunskap om white-box- och black-box-metoder för tolkbarhet, inklusive styrvektorer och mekanistisk tolkbarhet
- Förmåga att formulera välgrundade hypoteser utifrån strukturerade tekniska utmaningar
- Avancerade kunskaper i Python och erfarenhet av ramverk för djupinlärning som PyTorch
- Dokumenterad erfarenhet av att ta fram ren och modulär forskningsprogramvara
- Erfarenhet av kodhantering med Git
- Tydlig kommunikationsförmåga för att presentera komplexa tekniska idéer och experimentella resultat i rapporter och presentationer
- Nyfiket, rigoröst och analytiskt förhållningssätt till forskning
- Kännedom om ämnen inom AI-säkerhet, såsom robusthet, utvärdering eller kalibrering av osäkerhet
- Förmåga att ange om arbetstillståndssponsring i Storbritannien krävs
Förmåner
- Deltidsarbete kan diskuteras
- Varje ansökan granskas av en person och avgörs inte av AI
- AI-verktyg får användas för forskning och förberedelser inför intervjun
- Det går att tacka nej till AI-baserad anteckning under intervjun