51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA (inglés y telugu) – Contrato remoto
Realiza evaluaciones de equipo rojo de modelos y agentes de IA conversacional para Mercor, centrándote en la seguridad lingüística en inglés y telugu. Crea datos de vulnerabilidades, casos de ataque e informes reproducibles para apoyar un desarrollo de IA más seguro.
Descripción
- Prueba modelos y agentes de IA conversacional con jailbreaks, inyecciones de instrucciones, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
- Anota los fallos, categoriza las vulnerabilidades e identifica riesgos sistémicos
- Utiliza taxonomías, benchmarks y manuales operativos para mantener evaluaciones coherentes
- Crea informes reproducibles, conjuntos de datos y casos de ataque para clientes
- Evalúa resultados de IA que impliquen sesgos, desinformación, comportamientos perjudiciales y otros temas sensibles
- Contribuye a proyectos que entrenan y mejoran sistemas de IA
- Identifica vulnerabilidades que las pruebas automatizadas no detectan
- Amplía la cobertura de las evaluaciones para ayudar a reducir problemas inesperados en producción
Requisitos
- Dominio nativo o fluido del inglés y el telugu
- Criterio sólido para evaluar si las respuestas de IA son precisas, completas y apropiadas
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
- Atención meticulosa a errores sutiles, incoherencias y omisiones
- Cumplimiento constante de las directrices y los estándares de calidad
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Disposición para trabajar como contratista independiente
- No ser candidato a H-1B ni a STEM OPT; las especialidades pertinentes pueden incluir aprendizaje automático adversarial, conjuntos de datos de jailbreak, inyección de instrucciones, ataques RLHF/DPO, extracción de modelos, pruebas de penetración, desarrollo de exploits, ingeniería inversa, análisis de acoso o desinformación, análisis de abusos, pruebas de IA conversacional, psicología, actuación o redacción.
- beneficios
Beneficios
- Trabaja completamente a distancia con el horario que establezcas
- Recibe pagos semanales a través de Stripe o Wise por los servicios prestados
- Adquiere experiencia en equipos rojos de IA basados en datos humanos y centrados en la seguridad avanzada
- Ayuda a hacer que los sistemas de IA sean más sólidos, seguros y confiables
- Elige si deseas participar en proyectos de mayor sensibilidad
- Accede a orientación clara y recursos de bienestar para proyectos de mayor sensibilidad
- Solicita adaptaciones razonables
- Gana hasta 90 USD por cada recomendación exitosa, sin un límite de recomendaciones indicado