Faculty razvija vrhunske rešitve na področju umetne inteligence in strojnega učenja, namenjene reševanju zapletenih operativnih izzivov na področjih obrambe, zdravstva, finančnih storitev, javnih storitev in maloprodaje. Podjetje sodeluje z organizacijami pri uporabi napredne umetne inteligence na področjih, kot so nacionalna varnost, napovedovanje izidov in izboljševanje procesov, pri čemer daje poudarek praktičnim učinkom, odgovorni uvedbi in trajnosti.
Višji raziskovalni znanstvenik za varnost umetne inteligence – evalvacije pri Faculty (hibridno, Združeno kraljestvo)
Vodili boste raziskave evalvacij varnosti umetne inteligence za CBRN in kibernetska tveganja pri Faculty. Razvijali boste metode, orodja in dokaze, ki podpirajo odgovorno uvajanje naprednih sistemov umetne inteligence.
Opis
- Razvijati napredne evalvacije varnosti za področja z velikim vplivom, vključno s CBRN in kibernetskimi tveganji.
- Izvajati izvirne raziskave varnosti umetne inteligence od začetne zamisli do objave.
- Prepoznavati strateške priložnosti, ki krepijo raziskovalni program organizacije na področju evalvacij varnosti.
- Zagotavljati tehnično strokovno znanje za projekte naročnikov, evalvacijske programe in red teaming vodilnih laboratorijev.
- Zastopati Faculty v razpravah z raziskovalci, vodilnimi laboratoriji umetne inteligence in predstavniki vlade.
- Ustvarjati publikacije, tehnična poročila, evalvacijske okvire in raziskovalna orodja.
- Tesno sodelovati s ekipama Faculty za varnost umetne inteligence in izvedbo projektov.
Zahteve
- Dokazano prevzemanje odgovornosti za raziskave od prepoznavanja izvirnih vprašanj do objave.
- Praktične izkušnje z načrtovanjem in izvedbo evalvacij ali primerjalnih testov umetne inteligence.
- Sposobnost ocenjevanja konstruktne veljavnosti in obravnavanja motečih dejavnikov.
- Strokovno znanje s področij red teaminga, adversarnega testiranja, jailbreakinga, posrednega vbrizgavanja pozivov in robustnosti zaščitnih mehanizmov modelov.
- Dobro poznavanje eksperimentalnega načrtovanja, statistične analize, kvantifikacije negotovosti in Bayesovih metod.
- Temeljito razumevanje jezikovnih modelov, arhitektur generativne umetne inteligence, pristopov k učenju in ukrepov za zagotavljanje varnosti.
- Znanje Pythona.
- Zavezanost robustnim in ponovljivim praksam raziskovalnega inženirstva.
- Izkušnje z modeliranjem groženj in tveganj so zaželene.
- Znanje ali izkušnje na področju CBRN ali kibernetske varnosti so zaželene.
- Dokazani rezultati vplivnih raziskav umetne inteligence, izkazani z vodilnimi publikacijami ali primerljivim praktičnim delom, so zaželeni.
- Zahteve glede sponzoriranja vizuma za Združeno kraljestvo se ocenijo med postopkom prijave.
Ugodnosti
- O možnostih dela s krajšim delovnim časom se je mogoče dogovoriti.
- Zaposlitveni pristop, osredotočen na raznolikost in vključevanje.
- Dostop do orodij umetne inteligence za raziskave in pripravo na razgovor.
- Vsako prijavo pregleda človek.
- Možnost odjave od zapisovalnika zapiskov z razgovora, ki uporablja umetno inteligenco.