ActiveFence
ActiveFence
ActiveFence es una empresa de ciberseguridad e inteligencia artificial centrada en la confianza y la seguridad de las plataformas en línea. Su oferta integral combina investigación de inteligencia, detección de contenido dañino mediante inteligencia artificial y herramientas de moderación de contenido para ayudar a las plataformas a abordar riesgos como la explotación infantil, la desinformación, el discurso de odio, el terrorismo, la desnudez, el fraude y otras formas de daño en línea. ActiveFence presta apoyo a equipos de confianza y seguridad de distintos tamaños y ayuda a proteger a más de tres mil millones de usuarios en todo el mundo en más de 100 idiomas.

Equipo Rojo de IA: evaluación adversarial de IA generativa en ActiveFence

Desarrolla ataques adversariales, conjuntos de datos y pruebas de referencia para la plataforma de seguridad de IA de ActiveFence. Evalúa la solidez de los LLM mediante pruebas de equipo rojo e investigación de vulnerabilidades.

Descripción

  • Diseñar nuevos ataques adversariales.
  • Ayudar a crear sistemas escalables para generar y probar ataques a gran escala.
  • Evaluar la calidad, eficacia, novedad y reproducibilidad de los ataques.
  • Descubrir patrones de ataque emergentes y vulnerabilidades de los modelos.
  • Crear conjuntos de datos adversariales, pruebas de referencia y pruebas de regresión.
  • Compartir hallazgos, métodos y datos estructurados de ataques con los equipos de Ciencia de Datos, Seguridad e Ingeniería.
  • Contribuir a mejorar la solidez de los modelos y sus defensas.

Requisitos

  • Al menos tres años de experiencia profesional en ciberseguridad, investigación de seguridad, pruebas de equipo rojo o un campo de seguridad relacionado.
  • Grado universitario en Ciencia de Datos, Ingeniería Informática, Ciencias de la Computación o un campo técnico estrechamente relacionado.
  • Sólidos conocimientos de modelos de lenguaje grandes, inyección de prompts y seguridad de IA.
  • Experiencia en pruebas de equipo rojo, investigación de seguridad o pruebas adversariales.
  • Sólidos conocimientos de Python y automatización.
  • Capacidad creativa para resolver problemas y desarrollar nuevas técnicas de ataque.
  • Capacidad para analizar resultados y comunicar hallazgos con claridad.
  • Se valoran certificaciones de ciberseguridad ofensiva como OSWA, OSWE, OSCE3, SEC542 o SEC522.

Empleos relacionados

TransPerfect

Traductor automotriz de chino a malayo e indonesio

TransPerfect

Realiza posedición y corrección freelance de traducciones automáticas de contenido automotriz y técnico para TransPerfect. Trabaja en remoto con herramientas TAO y controles de calidad de proyectos.

Abrir
Snowflake

Director de Voz de Marca y Narrativa

Snowflake

Lidera la voz de marca y la narrativa creativa de Snowflake en campañas de AI Data Cloud, contenido olímpico, nombres de productos y eventos emblemáticos. Define la estrategia creativa, guía la producción y las mejoras de rendimiento, y asesora a creativos júnior.

Abrir
TransPerfect

Traductor de automoción del chino al malayo e indonesio

TransPerfect
5001 – 10.000 Empleados
ConsultoríaLegalMarketing

Traductor freelance para TransPerfect, encargado de poseditar traducciones automáticas y corregir contenido técnico y de automoción. Trabajo remoto con herramientas TAO y flujos de control de calidad de proyectos.

Abrir