51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA – inglés y telugu (contrato remoto)
Realiza evaluaciones de equipos rojos de modelos y agentes de IA conversacional para Mercor, identificando vulnerabilidades mediante pruebas adversariales. Crea conjuntos de datos de alta calidad, casos de ataque e informes claros centrados en el rendimiento en inglés y telugu.
Descripción
- Pon a prueba modelos y agentes de IA conversacional frente a jailbreaks, inyección de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crea datos generados por humanos etiquetando fallos, clasificando vulnerabilidades e identificando riesgos sistémicos
- Utiliza taxonomías, benchmarks y guías de trabajo establecidas para garantizar evaluaciones coherentes
- Desarrolla informes reproducibles, conjuntos de datos y casos de ataques adversariales
- Evalúa respuestas de IA relacionadas con sesgos, desinformación, comportamientos perjudiciales y otros temas sensibles
- Identifica debilidades que los métodos de evaluación automatizada podrían pasar por alto
- Amplía la cobertura de las evaluaciones para ayudar a prevenir problemas imprevistos en producción
- Mejora los sistemas de IA de los clientes mediante pruebas adversariales estructuradas
Requisitos
- Fluidez de nivel nativo tanto en inglés como en telugu
- Criterio sólido al evaluar lenguaje y contenido
- Capacidad para determinar si las respuestas de la IA son precisas, completas y apropiadas, y explicar el razonamiento
- Atención excepcional a errores sutiles, incoherencias y omisiones
- Adhesión constante a las directrices y estándares de calidad
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Capacidad para trabajar como contratista independiente
- No debe requerir patrocinio de H-1B ni STEM OPT
- Se valorará la experiencia en aprendizaje automático adversarial, ciberseguridad, riesgo sociotécnico o análisis creativo
Beneficios
- Trabajo totalmente remoto
- Elige un horario flexible que se adapte a tu disponibilidad
- Recibe pagos semanales mediante Stripe o Wise
- La duración del proyecto puede cambiar o finalizar antes según las necesidades del negocio y el rendimiento
- Accede a recursos de bienestar y orientación clara para asignaciones de mayor sensibilidad
- Adquiere experiencia en equipos rojos de IA basados en datos humanos
- Ayuda a crear sistemas de IA más sólidos, seguros y confiables
- Recibe una remuneración competitiva
- Colabora con investigadores destacados
- Hay adaptaciones razonables disponibles previa solicitud