51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA, inglés y neerlandés (contrato remoto)
Mercor busca expertos en seguridad de IA que hablen inglés y neerlandés para someter a pruebas de red team modelos y agentes conversacionales. El trabajo incluye crear datos sobre vulnerabilidades, escenarios de ataque e informes de seguridad reproducibles para el desarrollo de IA de vanguardia.
Descripción
- Probar modelos y agentes de IA conversacionales mediante jailbreaks, inyección de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear datos generados por personas mediante la anotación de fallos, la clasificación de vulnerabilidades y la identificación de riesgos sistémicos
- Utilizar taxonomías, benchmarks y guías operativas para respaldar pruebas de seguridad coherentes
- Desarrollar informes, conjuntos de datos y casos de ataque reproducibles para clientes
- Detectar vulnerabilidades que las pruebas automatizadas podrían pasar por alto
- Ampliar la cobertura de las evaluaciones para ayudar a reducir riesgos inesperados en producción
- Colaborar con investigadores destacados para entrenar y mejorar sistemas de IA de vanguardia
Requisitos
- Dominio nativo del inglés y el neerlandés
- Experiencia previa en red teaming de IA, trabajo adversarial de ciberseguridad o análisis sociotécnico mediante pruebas de exploración
- Capacidad para probar sistemas de IA de forma adversarial y llevarlos a condiciones de fallo
- Experiencia aplicando marcos o benchmarks a pruebas estructuradas
- Capacidad para comunicar riesgos con claridad a públicos técnicos y no técnicos
- Capacidad para adaptarse a distintos proyectos y clientes
- Se prefiere experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de prompts, ataques de RLHF/DPO o extracción de modelos
- Se prefiere experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se prefiere experiencia en riesgos sociotécnicos relacionados con pruebas de acoso o desinformación, análisis de abusos o pruebas de IA conversacional
- Se prefiere experiencia en exploración creativa en psicología, interpretación o escritura
- Debe poder trabajar como contratista independiente
- No se admiten candidatos con H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto
- Horario flexible con posibilidad de establecer el propio horario
- Pagos semanales a través de Stripe o Wise según los servicios prestados
- Los proyectos pueden ampliarse, acortarse o finalizar antes de tiempo según las necesidades del negocio y el rendimiento
- La participación en proyectos de mayor sensibilidad es opcional
- Se proporcionan directrices sobre el contenido y recursos de bienestar
- Hay adaptaciones razonables disponibles previa solicitud
- Remuneración por hora competitiva
- Posibilidad de recibir hasta 250 USD por cada recomendación exitosa, sujeta a límites