A Faculty desenvolve soluções de ponta em inteligência artificial e aprendizado de máquina para enfrentar desafios operacionais complexos nos setores de defesa, saúde, serviços financeiros, serviços públicos e varejo. A empresa trabalha com organizações para aplicar inteligência artificial avançada em áreas como segurança nacional, previsão de resultados e melhoria de processos, com foco em impacto prático, implementação responsável e sustentabilidade.
Cientista de Pesquisa Sênior em Segurança de IA – Avaliações na Faculty (Híbrido, Reino Unido)
Lidere pesquisas sobre avaliações de segurança de IA para riscos CBRN e cibernéticos na Faculty. Desenvolva métodos, ferramentas e evidências que apoiem a implementação responsável de sistemas avançados de IA.
Descrição
- Desenvolver avaliações avançadas de segurança para áreas de alto impacto, incluindo riscos CBRN e cibernéticos.
- Conduzir pesquisas originais sobre segurança de IA, desde o conceito inicial até a publicação.
- Identificar oportunidades estratégicas que fortaleçam a agenda de pesquisa da organização em avaliações de segurança.
- Fornecer conhecimento técnico para projetos de clientes, programas de avaliação e red teaming com laboratórios de IA de fronteira.
- Representar a Faculty em discussões com pesquisadores, laboratórios de IA de fronteira e partes interessadas do governo.
- Criar publicações, relatórios técnicos, estruturas de avaliação e ferramentas de pesquisa.
- Trabalhar em estreita colaboração com as equipes de segurança de IA e entrega da Faculty.
Requisitos
- Experiência comprovada na condução de pesquisas, desde a identificação de perguntas originais até a publicação.
- Experiência prática no desenvolvimento e na implementação de avaliações ou benchmarks de IA.
- Capacidade de avaliar a validade de construto e lidar com fatores de confusão.
- Experiência em red teaming, testes adversariais, jailbreaks, injeção indireta de prompts e robustez das salvaguardas dos modelos.
- Sólida base em desenho experimental, análise estatística, quantificação de incertezas e métodos bayesianos.
- Profundo conhecimento de modelos de linguagem, arquiteturas de IA generativa, abordagens de treinamento e medidas de mitigação de riscos.
- Proficiência em Python.
- Compromisso com práticas robustas e reproduzíveis de engenharia de pesquisa.
- Experiência com modelagem de ameaças e riscos será considerada um diferencial.
- Conhecimento ou experiência em CBRN ou cibersegurança será considerado um diferencial.
- Histórico de pesquisas influentes em IA, demonstrado por publicações relevantes ou experiência prática comparável, será considerado um diferencial.
- Os requisitos para patrocínio de visto no Reino Unido são avaliados durante o processo de candidatura.
Benefícios
- Possibilidade de discutir modalidades de trabalho em regime parcial.
- Processo de recrutamento centrado em diversidade e inclusão.
- Acesso a ferramentas de IA para pesquisa e preparação para entrevistas.
- Todas as candidaturas recebem análise humana.
- Opção de não utilizar o assistente de IA para fazer anotações durante a entrevista.