51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Especialista en seguridad de IA con inglés y finés
Analiza sistemas de IA de vanguardia para detectar vulnerabilidades mediante jailbreaks, inyección de prompts y escenarios de uso indebido. Elabora hallazgos estructurados y ejemplos de ataques reproducibles para contribuir a la evaluación de seguridad de la IA.
Descripción
- Prueba modelos y agentes de IA conversacionales con jailbreaks, inyección de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos.
- Crea datos etiquetados por personas documentando fallos, clasificando vulnerabilidades e identificando riesgos sistémicos.
- Usa taxonomías, pruebas de referencia y guías para mantener la coherencia de las pruebas.
- Entrega a los clientes informes reproducibles, conjuntos de datos y casos de ataque.
- Evalúa las respuestas de la IA sobre temas delicados, incluidos los sesgos, la desinformación y las conductas dañinas.
- Detecta vulnerabilidades que las pruebas automatizadas podrían pasar por alto.
- Amplía la cobertura de las evaluaciones para ayudar a prevenir problemas imprevistos en producción.
- Contribuye a proyectos que entrenan y mejoran sistemas de IA de vanguardia.
Requisitos
- Dominio fluido o nativo del inglés y el finés.
- Experiencia previa en pruebas de red team de IA, ciberseguridad o análisis sociotécnico adversarial.
- Capacidad para poner a prueba los sistemas de IA de forma adversarial y llevarlos al límite.
- Experiencia con marcos o pruebas de referencia para realizar evaluaciones estructuradas.
- Capacidad para explicar los riesgos con claridad a públicos técnicos y no técnicos.
- Capacidad para adaptarse a distintos proyectos y clientes.
- Se valorarán conocimientos especializados en aprendizaje automático adversarial, ciberseguridad, riesgos sociotécnicos o técnicas creativas de indagación.
- Colaboración como contratista independiente.
- No debe necesitar patrocinio para un visado H-1B ni para STEM OPT.
Beneficios
- Trabajo totalmente remoto.
- Horario flexible, con posibilidad de establecer tu propio horario.
- Pagos semanales a través de Stripe o Wise.
- Los proyectos pueden ampliarse, acortarse o finalizarse antes según las necesidades y el desempeño.
- Recursos de bienestar y orientación clara para proyectos que aborden temas de mayor sensibilidad.
- Adaptaciones razonables disponibles previa solicitud.
- Oportunidad de adquirir experiencia en pruebas de red team de IA basadas en datos generados por personas.
- Colaboración con investigadores de primer nivel.
- Pagos por recomendación de hasta 250 USD por cada recomendación exitosa; se aplican límites.