51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA (inglés y odia) – Contrato
Mercor busca un experto en seguridad de IA con dominio del inglés y el odia para realizar pruebas de tipo red team en modelos de IA conversacional destinados al entrenamiento de modelos de frontera. El trabajo incluye crear anotaciones de vulnerabilidades, casos de ataque, conjuntos de datos e informes de seguridad reproducibles.
Descripción
- Probar modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos.
- Documentar fallos, categorizar vulnerabilidades e identificar riesgos sistémicos.
- Utilizar taxonomías, benchmarks y playbooks establecidos para mantener la coherencia de las evaluaciones.
- Crear informes de seguridad, conjuntos de datos y casos de ataque reproducibles.
- Investigar las respuestas de los modelos para detectar sesgos, desinformación y comportamientos dañinos.
- Apoyar el entrenamiento y la mejora de sistemas de IA de frontera para el laboratorio de IA de Mercor y sus clientes empresariales.
Requisitos
- Dominio nativo del inglés y el odia.
- Criterio sólido al evaluar lenguaje y contenido.
- Capacidad para determinar si las respuestas de la IA son precisas, completas y apropiadas, y explicar el razonamiento.
- Gran atención a errores sutiles, incoherencias y omisiones.
- Capacidad para seguir directrices y estándares de calidad de forma fiable.
- Capacidad para comunicar el razonamiento con claridad a audiencias técnicas y no técnicas.
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y con diferentes clientes.
- Disposición para trabajar como contratista independiente.
- Los candidatos no deben ser candidatos a H-1B ni a STEM OPT.
- Se valorará la experiencia o especialización en aprendizaje automático adversarial, ciberseguridad, riesgos sociotécnicos o exploración creativa.
Beneficios
- Trabajo totalmente remoto.
- Horarios flexibles.
- Participación opcional en proyectos de mayor sensibilidad.
- Directrices y recursos de bienestar para proyectos que involucren contenido sensible.
- Pagos semanales mediante Stripe o Wise.
- Remuneración competitiva.
- Oportunidad de colaborar con investigadores destacados.
- Pagos por referencias de hasta 90 USD por cada referencia exitosa.