Faculty sviluppa soluzioni all’avanguardia di intelligenza artificiale e apprendimento automatico progettate per affrontare complesse sfide operative nei settori della difesa, della sanità, dei servizi finanziari, dei servizi pubblici e del commercio al dettaglio. L’azienda collabora con le organizzazioni per applicare l’intelligenza artificiale avanzata ad ambiti quali la sicurezza nazionale, la previsione dei risultati e il miglioramento dei processi, con particolare attenzione all’impatto concreto, all’implementazione responsabile e alla sostenibilità.
Scienziato/a senior di ricerca sulla sicurezza dell’IA – Valutazioni presso Faculty (ibrido, Regno Unito)
Guida la ricerca sulle valutazioni della sicurezza dell’IA per i rischi CBRN e informatici presso Faculty. Sviluppa metodi, strumenti ed evidenze a supporto dell’implementazione responsabile di sistemi avanzati di IA.
Descrizione
- Sviluppare valutazioni avanzate della sicurezza per aree ad alto impatto, inclusi i rischi CBRN e informatici.
- Condurre ricerche originali sulla sicurezza dell’IA, dal concetto iniziale fino alla pubblicazione.
- Individuare opportunità strategiche che rafforzino l’agenda di ricerca dell’organizzazione sulle valutazioni della sicurezza.
- Fornire competenze tecniche per progetti dei clienti, programmi di valutazione ed esercizi di red teaming con laboratori di IA all’avanguardia.
- Rappresentare Faculty nelle discussioni con ricercatori, laboratori di IA all’avanguardia e stakeholder governativi.
- Creare pubblicazioni, relazioni tecniche, framework di valutazione e strumenti di ricerca.
- Collaborare strettamente con i team di sicurezza dell’IA e di delivery di Faculty.
Requisiti
- Esperienza comprovata nella gestione della ricerca, dall’identificazione di domande originali fino alla pubblicazione.
- Esperienza pratica nella progettazione e nell’implementazione di valutazioni o benchmark di IA.
- Capacità di valutare la validità di costrutto e affrontare i fattori confondenti.
- Competenza in red teaming, test avversari, jailbreak, iniezione indiretta di prompt e robustezza delle salvaguardie dei modelli.
- Solida preparazione nella progettazione sperimentale, nell’analisi statistica, nella quantificazione dell’incertezza e nei metodi bayesiani.
- Conoscenza approfondita dei modelli linguistici, delle architetture di IA generativa, degli approcci di addestramento e delle misure di mitigazione dei rischi.
- Padronanza di Python.
- Impegno verso pratiche robuste e riproducibili di ingegneria della ricerca.
- È preferibile avere esperienza nella modellazione delle minacce e dei rischi.
- Sono preferibili conoscenze o esperienza in ambito CBRN o di cybersicurezza.
- È preferibile un percorso di ricerca influente nel campo dell’IA, dimostrato da pubblicazioni di rilievo o da un’esperienza pratica comparabile.
- I requisiti per la sponsorizzazione del visto per il Regno Unito vengono valutati durante il processo di candidatura.
Benefit
- È possibile discutere modalità di lavoro a tempo parziale.
- Processo di selezione incentrato sulla diversità e sull’inclusione.
- Accesso a strumenti di IA per la ricerca e la preparazione ai colloqui.
- Ogni candidatura viene esaminata da una persona.
- Possibilità di rinunciare all’assistente IA per la presa di appunti durante il colloquio.