Faculty vyvíjí špičková řešení v oblasti umělé inteligence a strojového učení, která pomáhají řešit složité provozní výzvy v obranném průmyslu, zdravotnictví, finančních službách, veřejných službách a maloobchodu. Společnost spolupracuje s organizacemi na využití pokročilé AI v oblastech, jako jsou národní bezpečnost, predikce výsledků a zlepšování procesů, přičemž klade důraz na praktický dopad, odpovědné nasazení a udržitelnost.
Seniorní výzkumný pracovník pro bezpečnost AI — evaluace ve Faculty (hybridní práce, Spojené království)
Ve Faculty povedete výzkum evaluace bezpečnosti AI v oblastech CBRN a kybernetických rizik. Budete vyvíjet metody, nástroje a podklady pro odpovědné nasazování pokročilých systémů AI.
Popis
- Vyvíjet pokročilé metody evaluace bezpečnosti v oblastech s vysokým dopadem, včetně CBRN a kybernetických rizik.
- Provádět původní výzkum bezpečnosti AI od počáteční koncepce až po publikaci.
- Identifikovat strategické příležitosti, které posílí výzkumnou agendu organizace v oblasti evaluace bezpečnosti.
- Poskytovat technické odborné znalosti pro klientské projekty, evaluační programy a red-teaming špičkových laboratoří.
- Zastupovat Faculty při jednáních s výzkumníky, špičkovými laboratořemi AI a představiteli státní správy.
- Vytvářet publikace, technické zprávy, evaluační rámce a výzkumné nástroje.
- Úzce spolupracovat s týmy Faculty pro bezpečnost AI a realizaci projektů.
Požadavky
- Prokazatelné zkušenosti s vedením výzkumu od formulace původních otázek až po publikaci.
- Praktické zkušenosti s navrhováním a implementací evaluací nebo benchmarků AI.
- Schopnost posuzovat konstruktovou validitu a řešit zkreslující faktory.
- Odbornost v red-teamingu, adversariálním testování, jailbreakingu, nepřímé injekci promptů a odolnosti ochranných mechanismů modelů.
- Dobrá znalost experimentálního designu, statistické analýzy, kvantifikace nejistoty a bayesovských metod.
- Důkladné porozumění jazykovým modelům, architekturám generativní AI, přístupům k trénování a bezpečnostním opatřením.
- Znalost Pythonu.
- Závazek k robustním a reprodukovatelným postupům výzkumného inženýrství.
- Zkušenosti s modelováním hrozeb a rizik jsou výhodou.
- Znalost oblasti CBRN nebo kybernetické bezpečnosti či zkušenosti v těchto oblastech jsou výhodou.
- Výzkumné výsledky s významným dopadem v oblasti AI, doložené předními publikacemi nebo srovnatelnou praktickou prací, jsou výhodou.
- Potřeba sponzoringu víza do Spojeného království se posuzuje během náborového procesu.
Benefity
- Možnost domluvit se na práci na částečný úvazek.
- Náborový přístup zaměřený na diverzitu a inkluzi.
- Přístup k nástrojům AI pro výzkum a přípravu na pohovor.
- Každá žádost prochází kontrolou člověkem.
- Možnost odmítnout používání AI nástroje pro pořizování poznámek z pohovoru.