Faculty razvija vrhunska rješenja u području umjetne inteligencije i strojnog učenja namijenjena rješavanju složenih operativnih izazova u obrani, zdravstvu, financijskim uslugama, javnim službama i maloprodaji. Tvrtka surađuje s organizacijama na primjeni napredne umjetne inteligencije u područjima kao što su nacionalna sigurnost, predviđanje ishoda i unaprjeđenje procesa, uz naglasak na praktičan učinak, odgovornu primjenu i održivost.
Viši istraživački znanstvenik za sigurnost umjetne inteligencije – evaluacije u Facultyju (hibridno, UK)
Vodit ćete istraživanje evaluacija sigurnosti umjetne inteligencije za CBRN i kibernetičke rizike u Facultyju. Razvijat ćete metode, alate i dokaze koji podupiru odgovornu primjenu naprednih sustava umjetne inteligencije.
Opis
- Razvijati napredne evaluacije sigurnosti za područja visokog utjecaja, uključujući CBRN i kibernetičke rizike.
- Provodi izvorno istraživanje sigurnosti umjetne inteligencije od početne ideje do objave.
- Prepoznavati strateške prilike koje jačaju istraživački program organizacije u području evaluacije sigurnosti.
- Pružati tehničko stručno znanje za projekte klijenata, programe evaluacije i red teaming u vodećim laboratorijima.
- Predstavljati Faculty u razgovorima s istraživačima, vodećim laboratorijima umjetne inteligencije i predstavnicima vlasti.
- Izrađivati publikacije, tehnička izvješća, okvire za evaluaciju i istraživačke alate.
- Blisko surađivati s timovima Facultyja za sigurnost umjetne inteligencije i provedbu projekata.
Zahtjevi
- Dokazano preuzimanje odgovornosti za istraživanje od prepoznavanja izvornih pitanja do objave.
- Praktično iskustvo u osmišljavanju i provedbi evaluacija ili referentnih testova umjetne inteligencije.
- Sposobnost procjene konstruktne valjanosti i rješavanja čimbenika koji mogu zbuniti rezultate.
- Stručnost u red teamingu, adversarijalnom testiranju, jailbreakingu, neizravnoj injekciji upita i robusnosti zaštitnih mehanizama modela.
- Čvrsto poznavanje eksperimentalnog dizajna, statističke analize, kvantifikacije nesigurnosti i Bayesovih metoda.
- Temeljito razumijevanje jezičnih modela, arhitektura generativne umjetne inteligencije, pristupa treniranju i mjera za povećanje sigurnosti.
- Napredno znanje Pythona.
- Predanost robusnim i reproducibilnim praksama istraživačkog inženjerstva.
- Iskustvo u modeliranju prijetnji i rizika je poželjno.
- Znanje ili iskustvo u području CBRN-a ili kibernetičke sigurnosti je poželjno.
- Rezultati utjecajnog istraživanja umjetne inteligencije dokazani vodećim publikacijama ili usporedivim praktičnim radom su poželjni.
- Zahtjevi za sponzoriranje vize za UK procjenjuju se tijekom postupka prijave.
Pogodnosti
- Mogućnosti rada na nepuno radno vrijeme mogu se razmotriti.
- Pristup zapošljavanju usmjeren na raznolikost i uključivost.
- Pristup alatima umjetne inteligencije za istraživanje i pripremu za razgovor za posao.
- Svaku prijavu pregledava osoba.
- Mogućnost odustajanja od bilježenja bilješki s razgovora pomoću umjetne inteligencije.