51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Especialista en pruebas adversariales de seguridad de modelos de IA
Pon a prueba los modelos de IA de vanguardia de Mercor para detectar fallos de seguridad mediante pruebas adversariales. Identifica vulnerabilidades y contribuye a mejorar la alineación de los modelos.
Descripción
- Crea prompts adversariales para poner a prueba modelos de IA de vanguardia.
- Detecta jailbreaks, comportamientos inseguros, alucinaciones e incumplimientos de políticas.
- Evalúa la resiliencia de los modelos ante desinformación, ciberseguridad, bioprotección, fraude, contenido político y otras áreas sensibles.
- Documenta vulnerabilidades y contribuye a elaborar referentes de seguridad e informes de pruebas adversariales.
- Colabora con investigadores de IA para reforzar la alineación, la resiliencia y la seguridad de los modelos.
- Ayuda a proteger y mejorar la próxima generación de modelos de IA de vanguardia.
- Contribuye a proyectos de entrenamiento y mejora de sistemas de IA.
Requisitos
- Licenciatura o título superior en informática, ciberseguridad, periodismo, comunicación, psicología, biología, química, políticas públicas o un campo relacionado
- Al menos cinco años de experiencia profesional en seguridad de la IA, pruebas adversariales de IA, confianza y seguridad, ciberseguridad, periodismo de investigación, ciencias de la vida o un área relacionada
- Sólidas capacidades de razonamiento analítico, diseño de prompts y redacción
- Experiencia creando prompts adversariales o evaluando sistemas de IA de vanguardia
- Se valora la experiencia en pruebas adversariales de IA, RLHF, ajuste fino supervisado, alineación de IA o confianza y seguridad
- Se valora el conocimiento de pruebas de jailbreak, ingeniería de prompts o métodos de evaluación adversarial
- Se valora la especialización en al menos un ámbito sensible, como ciberseguridad, bioprotección, contenido político, desinformación o seguridad científica
- No debe necesitar patrocinio para una visa H-1B ni para STEM OPT; Mercor no puede patrocinar a quienes necesiten ninguna de estas opciones
Beneficios
- Trabajo totalmente remoto con horario flexible
- Pagos semanales a través de Stripe o Wise por los servicios prestados
- La duración del proyecto puede cambiar o terminar antes según las necesidades y el desempeño
- Colaboración con destacados investigadores de IA y equipos de seguridad
- Contribución a definir cómo los sistemas de IA gestionan retos de seguridad complejos del mundo real
- Adaptaciones razonables disponibles previa solicitud
- Pagos de hasta 340 USD por cada referido contratado con éxito, sujetos a límites