Faculty desarrolla soluciones pioneras de inteligencia artificial y aprendizaje automático diseñadas para abordar desafíos operativos complejos en los sectores de defensa, salud, servicios financieros, servicios públicos y comercio minorista. La empresa trabaja con organizaciones para aplicar inteligencia artificial avanzada en áreas como la seguridad nacional, la predicción de resultados y la mejora de procesos, haciendo hincapié en el impacto práctico, la implementación responsable y la sostenibilidad.
Científico/a de investigación sénior en seguridad de la IA: evaluaciones en Faculty (híbrido, Reino Unido)
Lidera la investigación sobre evaluaciones de seguridad de la IA para riesgos CBRN y cibernéticos en Faculty. Desarrolla métodos, herramientas y evidencias que respalden el despliegue responsable de sistemas avanzados de IA.
Descripción
- Desarrollar evaluaciones avanzadas de seguridad para áreas de alto impacto, como los riesgos CBRN y cibernéticos.
- Realizar investigación original sobre seguridad de la IA, desde la concepción inicial hasta la publicación.
- Identificar oportunidades estratégicas que fortalezcan la agenda de investigación de la organización en materia de evaluaciones de seguridad.
- Proporcionar conocimientos técnicos para proyectos de clientes, programas de evaluación y ejercicios de red teaming con laboratorios de IA de frontera.
- Representar a Faculty en conversaciones con investigadores, laboratorios de IA de frontera y partes interesadas gubernamentales.
- Crear publicaciones, informes técnicos, marcos de evaluación y herramientas de investigación.
- Colaborar estrechamente con los equipos de seguridad de la IA y de entrega de Faculty.
Requisitos
- Experiencia demostrada asumiendo la responsabilidad de una investigación, desde la identificación de preguntas originales hasta la publicación.
- Experiencia práctica en el diseño y la implementación de evaluaciones o benchmarks de IA.
- Capacidad para evaluar la validez de constructo y abordar factores de confusión.
- Experiencia en red teaming, pruebas adversariales, jailbreaks, inyección indirecta de prompts y robustez de las salvaguardas de los modelos.
- Sólida formación en diseño experimental, análisis estadístico, cuantificación de la incertidumbre y métodos bayesianos.
- Comprensión profunda de los modelos de lenguaje, las arquitecturas de IA generativa, los enfoques de entrenamiento y las medidas de mitigación de riesgos.
- Dominio de Python.
- Compromiso con prácticas sólidas y reproducibles de ingeniería de investigación.
- Se valorará la experiencia con modelos de amenazas y riesgos.
- Se valorarán los conocimientos o la experiencia en CBRN o ciberseguridad.
- Se valorará un historial de investigación influyente en IA, demostrado mediante publicaciones destacadas o experiencia práctica comparable.
- Los requisitos de patrocinio de visado para el Reino Unido se evalúan durante el proceso de solicitud.
Beneficios
- Se pueden discutir modalidades de trabajo a tiempo parcial.
- Proceso de selección centrado en la diversidad y la inclusión.
- Acceso a herramientas de IA para la investigación y la preparación de entrevistas.
- Todas las solicitudes reciben una revisión humana.
- Posibilidad de no utilizar el asistente de IA para tomar notas durante las entrevistas.