51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en pruebas de seguridad de IA (inglés y telugu) - contrato remoto
Pon a prueba modelos de IA conversacional para detectar jailbreaks, inyección de prompts, usos indebidos, sesgos y otros fallos de seguridad. Documenta vulnerabilidades reproducibles y datos de evaluación para clientes de investigación en IA.
Descripción
- Pon a prueba de forma adversarial modelos y agentes de IA conversacional para detectar jailbreaks, inyección de prompts, usos indebidos, explotación de sesgos y manipulación en varios turnos
- Anota los fallos detectados, categoriza las vulnerabilidades e identifica riesgos sistémicos
- Aplica taxonomías, benchmarks y manuales de procedimientos establecidos para mantener evaluaciones coherentes
- Crea informes, conjuntos de datos y escenarios de ataque reproducibles para clientes
- Evalúa las respuestas de la IA sobre temas sensibles, incluidos los sesgos, la desinformación y los comportamientos perjudiciales
- Encuentra debilidades que los métodos de evaluación automatizada no logran detectar
- Amplía la cobertura de las evaluaciones para ayudar a prevenir problemas inesperados en producción
- Mejora los sistemas de IA de los clientes mediante pruebas adversariales repetibles
Requisitos
- Dominio nativo tanto del inglés como del telugu
- Criterio sólido para evaluar el lenguaje y el contenido en cuanto a precisión, integridad y adecuación
- Capacidad para comunicar el razonamiento con claridad a audiencias técnicas y no técnicas
- Gran atención a errores sutiles, incoherencias y omisiones
- Capacidad para seguir directrices y estándares de calidad de forma constante
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Colaboración como contratista independiente
- Capacidad para trabajar sin utilizar información confidencial o de propiedad exclusiva de ningún empleador, cliente o institución
- No se admiten candidatos con H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto que puede realizarse con un horario autodirigido
- Pagos semanales a través de Stripe o Wise por los servicios prestados
- Participación opcional en proyectos que impliquen temas más sensibles
- Directrices y recursos de bienestar para trabajos que impliquen contenido sensible
- Experiencia en el desarrollo de conocimientos especializados en pruebas de seguridad de IA basadas en datos humanos
- Oportunidad de ayudar a crear sistemas de IA más seguros, sólidos y confiables
- Oportunidades de colaboración con investigadores destacados
- Pagos por referencias de hasta 90 USD por cada referencia exitosa, sujetos a los límites aplicables