51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA: inglés y gujarati (contrato remoto)
Pon a prueba modelos y agentes de IA de vanguardia para detectar vulnerabilidades de seguridad mediante conversaciones adversariales, incluidos jailbreaks, inyección de prompts, uso indebido, sesgos y manipulación. Crea conjuntos de datos anotados, escenarios de ataque e informes de seguridad reproducibles en inglés y gujarati.
Descripción
- Pon a prueba de forma adversarial modelos y agentes de IA conversacional para detectar jailbreaks, inyección de prompts, uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crea datos generados por personas mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos
- Utiliza taxonomías, referencias comparativas y manuales de procedimientos establecidos para mantener evaluaciones coherentes
- Elabora informes, conjuntos de datos y escenarios de ataque reproducibles
- Evalúa resultados de IA relacionados con temas sensibles, incluidos sesgos, desinformación y conductas perjudiciales
- Identifica debilidades que los métodos de evaluación automatizada no logran detectar
- Amplía la cobertura de las evaluaciones para ayudar a limitar problemas inesperados en producción
- Mejora los sistemas de IA de los clientes mediante pruebas adversariales estructuradas
Requisitos
- Dominio nativo o equivalente del inglés y el gujarati
- Criterio sólido para evaluar lenguaje y contenido
- Capacidad para determinar si las respuestas de la IA son precisas, completas y apropiadas, y explicar la evaluación
- Atención minuciosa a errores sutiles, incoherencias y omisiones
- Uso coherente de taxonomías, referencias comparativas, manuales de procedimientos, directrices y estándares de calidad
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Se valora experiencia en aprendizaje automático adversarial, ciberseguridad, riesgo sociotécnico o exploración creativa de IA
- Debes trabajar como contratista independiente
- No se admiten candidatos con H-1B ni STEM OPT
Beneficios
- Puesto completamente remoto
- Horario flexible, con posibilidad de elegir las horas de trabajo
- Pagos semanales mediante Stripe o Wise
- Los proyectos pueden ampliarse, acortarse o finalizar antes según las necesidades del negocio y el rendimiento
- Participación opcional en proyectos que involucren contenido de mayor sensibilidad
- Orientación definida y recursos de bienestar para asignaciones con contenido sensible
- Adaptaciones razonables disponibles previa solicitud
- Oportunidad de adquirir experiencia en red teaming de IA basado en datos humanos
- Colaboración con investigadores destacados
- Pagos por referidos de hasta 90 USD por cada referido contratado con éxito, sujetos a los límites aplicables