51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en red teaming de seguridad de IA (inglés y panyabí)
Realizar pruebas adversariales de modelos y agentes de IA conversacional en inglés y panyabí. Crear anotaciones de vulnerabilidades, casos de ataque, conjuntos de datos e informes de seguridad reproducibles para los proyectos de seguridad de IA basados en datos humanos de Mercor.
Descripción
- Poner a prueba modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de instrucciones, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear anotaciones con datos humanos documentando fallos, categorizando vulnerabilidades e identificando riesgos sistémicos
- Utilizar taxonomías, benchmarks y guías operativas establecidas para mantener evaluaciones coherentes
- Entregar informes reproducibles, conjuntos de datos y casos de ataque para los clientes
- Evaluar resultados de IA relacionados con sesgos, desinformación, comportamientos dañinos y otros temas sensibles
- Ampliar la cobertura de las evaluaciones para identificar vulnerabilidades que las pruebas automatizadas podrían pasar por alto
- Ayudar a mejorar la seguridad, solidez y fiabilidad de los sistemas de IA de los clientes
Requisitos
- Dominio nativo o fluido del inglés y el panyabí
- Criterio sólido para evaluar la precisión, integridad y adecuación del contenido generado por IA
- Capacidad para detectar errores, incoherencias y omisiones sutiles
- Adhesión constante a directrices, taxonomías, benchmarks, guías operativas y estándares de calidad
- Comunicación clara del razonamiento tanto a públicos técnicos como no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y requisitos de clientes
- Capacidad para trabajar como contratista independiente
- No se admiten candidatos con H-1B ni STEM OPT
- Se valorará experiencia en aprendizaje automático adversarial, conjuntos de datos de jailbreaks, ataques de inyección de instrucciones o RLHF/DPO, extracción de modelos, pruebas de penetración, desarrollo de exploits, ingeniería inversa, investigación de acoso o desinformación, análisis de abusos, pruebas de IA conversacional, psicología, interpretación o redacción adversarial no convencional
Beneficios
- Trabajo totalmente remoto con horarios flexibles y autogestionados
- Pagos semanales mediante Stripe o Wise
- Remuneración competitiva
- Recursos de bienestar y orientación clara para proyectos de mayor sensibilidad
- Adaptaciones razonables disponibles previa solicitud
- Pagos por referencias de hasta 90 USD por cada referencia exitosa
- Oportunidades de colaboración con investigadores destacados
- Experiencia práctica en red teaming de IA con datos humanos en la vanguardia de la seguridad de la IA