51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto remoto en seguridad de IA (inglés y canarés)
Realiza pruebas adversariales de los modelos de IA de frontera de Mercor usando entradas en inglés y canarés para identificar vulnerabilidades. Crea datos de seguridad reproducibles, casos de ataque e informes para clientes de IA.
Descripción
- Pon a prueba modelos y agentes de IA conversacional con jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
- Crea datos generados por personas mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos
- Utiliza taxonomías, benchmarks y guías de trabajo establecidas para mantener evaluaciones coherentes
- Desarrolla informes, conjuntos de datos y casos de ataque reproducibles que los clientes puedan utilizar
- Evalúa las respuestas de IA sobre temas sensibles, incluidos los sesgos, la desinformación y los comportamientos perjudiciales
- Detecta debilidades que las evaluaciones automatizadas podrían pasar por alto
- Amplía la cobertura de las evaluaciones para ayudar a prevenir problemas inesperados en producción
- Contribuye a proyectos que entrenan y mejoran sistemas de IA para el laboratorio de IA de Mercor y sus clientes empresariales
Requisitos
- Dominio nativo o fluido del inglés y el canarés
- Criterio sólido para evaluar el lenguaje y el contenido, incluida la precisión, integridad y adecuación de las respuestas de IA
- Capacidad para comunicar los razonamientos con claridad a públicos técnicos y no técnicos
- Gran atención a errores sutiles, incoherencias y omisiones
- Capacidad para aplicar de forma constante taxonomías, benchmarks, guías de trabajo, directrices y estándares de calidad
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Debes trabajar como contratista independiente
- No debes estar solicitando el estatus H-1B ni STEM OPT
- Se valorará la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de prompts, ataques de RLHF o DPO, o extracción de modelos
- Se valorará la experiencia en ciberseguridad, incluidas las pruebas de penetración, el desarrollo de exploits o la ingeniería inversa
- Se valorará la experiencia en riesgos sociotécnicos, como la investigación de acoso o desinformación, el análisis de abusos o las pruebas de IA conversacional
- Se valorará la experiencia en psicología, interpretación o escritura que favorezca un pensamiento adversarial poco convencional
Beneficios
- Trabajo contractual totalmente remoto con flexibilidad horaria
- Pago semanal a través de Stripe o Wise según los servicios prestados
- Oportunidad de adquirir experiencia en red teaming de IA basado en datos humanos y centrado en la seguridad de modelos de frontera
- Contribución significativa para hacer que los sistemas de IA sean más robustos, seguros y confiables
- Recursos de bienestar y orientación definida para proyectos que impliquen contenido de mayor sensibilidad
- Adaptaciones razonables disponibles previa solicitud
- Pagos por referencias de hasta 90 USD por cada referencia exitosa, sujetos a las restricciones aplicables