Faculty vyvíja špičkové riešenia v oblasti umelej inteligencie a strojového učenia, ktoré sú určené na riešenie komplexných prevádzkových výziev v obrane, zdravotníctve, finančných službách, verejných službách a maloobchode. Spoločnosť spolupracuje s organizáciami na využití pokročilej umelej inteligencie v oblastiach, ako sú národná bezpečnosť, predikcia výsledkov a zlepšovanie procesov, pričom kladie dôraz na praktický prínos, zodpovedné nasadenie a udržateľnosť.
Vedúci výskumný pracovník v oblasti bezpečnosti AI – evaluácie vo Faculty (hybridná práca, Spojené kráľovstvo)
Povediete výskum hodnotenia bezpečnosti AI so zameraním na riziká CBRN a kybernetické riziká vo Faculty. Budete vyvíjať metódy, nástroje a dôkazy na podporu zodpovedného nasadzovania pokročilých systémov AI.
Popis
- Vyvíjať pokročilé hodnotenia bezpečnosti pre oblasti s vysokým vplyvom vrátane CBRN a kybernetiky.
- Vykonávať pôvodný výskum bezpečnosti AI od úvodnej myšlienky až po publikovanie.
- Identifikovať strategické príležitosti, ktoré posilnia výskumnú agendu organizácie v oblasti hodnotenia bezpečnosti.
- Poskytovať technické odborné znalosti pre klientske projekty, hodnotiace programy a red teaming frontier laboratórií.
- Zastupovať Faculty v diskusiách s výskumníkmi, frontier laboratóriami AI a predstaviteľmi vlády.
- Vytvárať publikácie, technické správy, rámce hodnotenia a výskumné nástroje.
- Úzko spolupracovať s tímami Faculty pre bezpečnosť AI a realizáciu projektov.
Požiadavky
- Preukázaná zodpovednosť za výskum od identifikácie pôvodných otázok až po publikovanie.
- Praktické skúsenosti s navrhovaním a implementáciou hodnotení alebo benchmarkov AI.
- Schopnosť posudzovať konštruktovú validitu a riešiť skresľujúce faktory.
- Odbornosť v red teamingu, adversariálnom testovaní, jailbreakingu, nepriamej injekcii promptov a odolnosti ochranných mechanizmov modelov.
- Silné základy experimentálneho dizajnu, štatistickej analýzy, kvantifikácie neistoty a bayesovských metód.
- Dôkladné porozumenie jazykovým modelom, architektúram generatívnej AI, prístupom k trénovaniu a opatreniam na zvýšenie bezpečnosti.
- Znalosť Pythonu.
- Záväzok dodržiavať robustné a reprodukovateľné postupy výskumného inžinierstva.
- Skúsenosti s modelovaním hrozieb a rizík sú výhodou.
- Znalosti alebo skúsenosti v oblasti CBRN či kybernetickej bezpečnosti sú výhodou.
- Výsledky vplyvného výskumu AI preukázané vedúcimi publikáciami alebo porovnateľnou praktickou prácou sú výhodou.
- Požiadavky na sponzorovanie víz do Spojeného kráľovstva sa posudzujú počas prijímacieho procesu.
Benefity
- Možnosti práce na čiastočný úväzok je možné prediskutovať.
- Náborový prístup založený na rozmanitosti a inklúzii.
- Prístup k nástrojom AI na výskum a prípravu na pohovor.
- Každú žiadosť posúdi človek.
- Možnosť odmietnuť automatické zapisovanie poznámok z pohovoru pomocou AI.