ActiveFence es una empresa de ciberseguridad e inteligencia artificial centrada en la confianza y la seguridad de las plataformas en línea. Su oferta integral combina investigación de inteligencia, detección de contenido dañino mediante inteligencia artificial y herramientas de moderación de contenido para ayudar a las plataformas a abordar riesgos como la explotación infantil, la desinformación, el discurso de odio, el terrorismo, la desnudez, el fraude y otras formas de daño en línea. ActiveFence presta apoyo a equipos de confianza y seguridad de distintos tamaños y ayuda a proteger a más de tres mil millones de usuarios en todo el mundo en más de 100 idiomas.
Investigador sénior de IA – Híbrido en Israel
Liderar la evaluación de aprendizaje por refuerzo, los ejercicios de red teaming y las auditorías de seguridad de modelos de IA de pesos abiertos. Crear pipelines de benchmarking y posentrenamiento para el trabajo de confianza, seguridad y protección de la IA de ActiveFence.
Descripción
- Liderar evaluaciones posentrenamiento, ejercicios de red teaming y auditorías de entornos de aprendizaje por refuerzo para modelos de pesos abiertos
- Diseñar metodologías rigurosas de benchmarking
- Evaluar modelos de lenguaje de gran escala frente a amenazas sofisticadas, incluidos los ataques de inyección indirecta de prompts
- Crear pipelines de evaluación posentrenamiento que midan capacidades de seguridad realistas y de nivel frontier
- Ejecutar experimentos posentrenamiento, como GRPO, con modelos generalistas de pesos abiertos en entornos de aprendizaje por refuerzo centrados en la seguridad
- Examinar curvas de pérdida en tiempo real y trazas de rollouts para detectar hackeo de recompensas, convergencia perezosa de políticas y verificadores mal especificados
- Evaluar tareas y entornos multivuelta que impliquen uso de herramientas, navegación web y uso del ordenador en cuanto a realismo, precisión del modelo de amenazas, distribución de datos y equilibrio del conjunto de datos
- Elaborar fichas de evaluación que cubran las mejoras de rendimiento de los checkpoints, los modos de fallo, los tokens y turnos de los rollouts y las tasas de éxito a nivel de tarea
- Integrar entornos Dockerizados, incluidos los entornos en formato Harbor, en frameworks internos de entrenamiento
- Mejorar la semántica de restablecimiento y mantenimiento del estado, la concurrencia y los límites de rendimiento
Requisitos
- Máster o doctorado en Ciencia de Datos, Aprendizaje Automático, Ciencias de la Computación o experiencia práctica equivalente en aprendizaje profundo
- Experiencia práctica entrenando modelos a gran escala con algoritmos de aprendizaje por refuerzo como GRPO o PPO en arquitecturas de pesos abiertos
- Sólidos conocimientos sobre vulnerabilidades de los LLM, prácticas de red teaming y alineación defensiva frente a ataques de inyección indirecta de prompts
- Dominio de PyTorch, la contenerización con Docker y las arquitecturas de entrenamiento distribuido
- Capacidad para interpretar trazas de rollouts de agentes, crear rúbricas y verificadores deterministas y depurar problemas complejos de diseño de recompensas
- Se valora la experiencia con formatos estándar de entornos de aprendizaje por refuerzo, como Harbor
- Se valora la experiencia evaluando flujos de trabajo agénticos complejos en entornos de uso de herramientas o navegadores web
- Se valora la familiaridad con la evaluación de modelos de pesos abiertos similares a Llama o Mistral frente a cargas de trabajo adversarias