51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA: inglés y asamés (contrato remoto)
Evalúa sistemas de IA conversacional para detectar jailbreaks, sesgos, riesgos de inyección de instrucciones y otras vulnerabilidades. Crea materiales de datos humanos claros y reproducibles que ayuden a hacer la IA avanzada más segura y fiable.
Descripción
- Evalúa modelos y agentes de IA conversacional para detectar jailbreaks, inyecciones de instrucciones, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
- Crea anotaciones de datos humanos documentando fallos, categorizando vulnerabilidades e identificando riesgos sistémicos
- Utiliza taxonomías, benchmarks y guías de trabajo establecidas para mantener evaluaciones coherentes
- Entrega informes, conjuntos de datos y escenarios de ataque reproducibles para clientes
- Detecta debilidades que las pruebas automatizadas pueden pasar por alto
- Amplía la cobertura de las evaluaciones para ayudar a minimizar problemas inesperados en producción
- Evalúa las respuestas de IA sobre temas sensibles según las directrices proporcionadas
Requisitos
- Dominio nativo tanto del inglés como del asamés
- Criterio sólido para evaluar lenguaje y contenido, incluida la precisión, integridad y adecuación de las respuestas de IA
- Gran atención a errores sutiles, incoherencias y omisiones
- Cumplimiento constante de las directrices y los estándares de calidad
- Capacidad para comunicar los razonamientos con claridad a públicos técnicos y no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Condición de contratista independiente
- Comodidad al trabajar con temas sensibles como sesgos, desinformación y conductas perjudiciales; la participación en proyectos de mayor sensibilidad es opcional
- No se admiten candidatos con H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto con un horario flexible que tú estableces
- Pagos semanales mediante Stripe o Wise
- Oportunidad de adquirir experiencia en red teaming de IA basado en datos humanos
- Contribución práctica al desarrollo de sistemas de IA más robustos, seguros y confiables
- Oportunidades de colaboración con investigadores destacados
- Adaptaciones razonables disponibles previa solicitud
- Incentivo por referencias de hasta 90 USD por cada referencia contratada