51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA (inglés y canarés) – Contrato remoto en Estados Unidos
Mercor busca un especialista en red teaming de IA con dominio del inglés y el canarés para probar vulnerabilidades en modelos avanzados. El trabajo incluye crear casos de ataque reproducibles, conjuntos de datos de evaluación e informes de riesgos para proyectos de entrenamiento de IA con datos humanos.
Descripción
- Probar modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear anotaciones de datos humanos documentando fallos, categorizando vulnerabilidades e identificando riesgos sistémicos
- Utilizar taxonomías, pruebas comparativas y manuales de procedimientos establecidos para mantener evaluaciones coherentes
- Preparar informes para clientes, conjuntos de datos y casos de ataque reproducibles
- Evaluar las respuestas de la IA sobre temas sensibles, incluidos los sesgos, la desinformación y las conductas perjudiciales
- Investigar los sistemas de IA para detectar debilidades que las pruebas automatizadas podrían pasar por alto
- Ampliar la cobertura de las evaluaciones para ayudar a limitar problemas inesperados en producción
- Apoyar el entrenamiento y la mejora de modelos avanzados para el laboratorio de IA de Mercor y sus clientes empresariales
Requisitos
- Dominio nativo del inglés y el canarés
- Criterio sólido para evaluar si las respuestas de la IA son precisas, completas y adecuadas
- Habilidades de comunicación clara para explicar el razonamiento a públicos técnicos y no técnicos
- Atención meticulosa a errores sutiles, incoherencias y omisiones
- Coherencia al aplicar taxonomías, pruebas comparativas, manuales de procedimientos, directrices y estándares de calidad
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Capacidad para trabajar como contratista independiente
- No debe requerir patrocinio H-1B ni STEM OPT; estas vías de patrocinio no están disponibles
- Se valorará la experiencia relevante en aprendizaje automático adversarial, ciberseguridad, riesgos sociotécnicos, pruebas de IA conversacional, psicología, interpretación o redacción adversarial no convencional
Beneficios
- Trabajo totalmente remoto con flexibilidad para establecer tu propio horario
- Pagos semanales mediante Stripe o Wise por los servicios prestados
- Elegir si participar en proyectos que impliquen contenido de mayor sensibilidad
- Acceso a orientación clara y recursos de bienestar para tareas con contenido sensible
- Recibir una compensación competitiva
- Adquirir experiencia práctica en red teaming de IA basado en datos humanos
- Colaborar con investigadores destacados
- Solicitar adaptaciones razonables cuando sean necesarias
- Obtener pagos por recomendaciones de hasta 90 USD por cada recomendación exitosa