51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA de Mercor – inglés y guyaratí, contrato remoto en EE. UU.
Realiza evaluaciones humanas de equipos rojos sobre modelos y agentes de IA conversacional para Mercor. Genera datos de vulnerabilidades, escenarios de ataque y evaluaciones de seguridad reproducibles en inglés y guyaratí.
Descripción
- Realiza pruebas de equipo rojo en modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
- Anota fallos, categoriza vulnerabilidades y escala los riesgos sistémicos
- Utiliza taxonomías, benchmarks y guías de trabajo establecidas para mantener evaluaciones coherentes
- Crea informes, conjuntos de datos y escenarios de ataque reproducibles
- Evalúa respuestas de IA relacionadas con sesgos, desinformación, comportamientos perjudiciales y otros temas sensibles
- Detecta debilidades que las pruebas automatizadas podrían pasar por alto
- Amplía la cobertura de las evaluaciones y ayuda a limitar problemas imprevistos en producción
- Mejora los sistemas de IA de los clientes mediante pruebas de equipo rojo basadas en datos y generadas por personas
Requisitos
- Dominio de nivel nativo del inglés y el guyaratí
- Criterio sólido al evaluar el lenguaje y el contenido
- Capacidad para determinar si las respuestas de IA son precisas, completas y apropiadas, y explicar la evaluación
- Gran atención a errores sutiles, incoherencias y omisiones
- Adhesión constante a las directrices y los estándares de calidad
- Comunicación clara del razonamiento tanto a públicos técnicos como no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Disposición para trabajar como contratista independiente
- No ser candidato a H-1B ni a STEM OPT
- Se valora experiencia en aprendizaje automático adversarial, ciberseguridad, riesgo sociotécnico o exploración creativa
Beneficios
- Trabajo contractual totalmente remoto
- Horario flexible
- Pagos semanales mediante Stripe o Wise
- Opción de participar en proyectos de mayor sensibilidad
- Orientación y recursos de bienestar para trabajos que impliquen contenido sensible
- Remuneración competitiva
- Oportunidad de colaborar con investigadores destacados
- Adaptaciones razonables disponibles previa solicitud
- Programa de referidos que ofrece hasta 90 USD por cada referido contratado con éxito