51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA – Inglés y asamés | Contrato remoto con Mercor
Realiza pruebas adversariales de modelos de IA de vanguardia para detectar jailbreaks, sesgos, usos indebidos y otros riesgos de seguridad. Crea anotaciones de datos humanos, clasificaciones de vulnerabilidades y evidencias reproducibles de ataques para los clientes de Mercor.
Descripción
- Pon a prueba de forma adversarial modelos y agentes de IA conversacional para detectar jailbreaks, inyección de prompts, usos indebidos, explotación de sesgos y manipulación en varios turnos
- Crea anotaciones de datos humanos, clasifica fallos e identifica riesgos sistémicos
- Utiliza taxonomías, benchmarks y manuales establecidos para estandarizar las evaluaciones
- Entrega informes, conjuntos de datos y casos de ataque reproducibles para los clientes
- Evalúa respuestas de IA relacionadas con sesgos, desinformación, conductas perjudiciales y otros temas sensibles
- Encuentra debilidades que las pruebas automatizadas no detectan
- Amplía la cobertura de las evaluaciones para ayudar a prevenir problemas inesperados en producción
- Mejora los sistemas de IA de los clientes mediante pruebas adversariales estructuradas
Requisitos
- Fluidez nativa en inglés y asamés
- Criterio sólido para evaluar el lenguaje y el contenido en cuanto a precisión, integridad y adecuación
- Capacidad para detectar errores sutiles, incoherencias y omisiones
- Cumplimiento constante de las directrices y los estándares de calidad
- Comunicación clara del razonamiento tanto a públicos técnicos como no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y necesidades de los clientes
- Se valorará: experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreaks, inyección de prompts, ataques de RLHF o DPO, o extracción de modelos
- Se valorará: experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valorará: experiencia en riesgos sociotécnicos, como investigación de acoso o desinformación, análisis de abusos o pruebas de IA conversacional
- Se valorará: formación o experiencia en psicología, interpretación o escritura que favorezca un pensamiento adversarial poco convencional
- Debe trabajar como contratista independiente
- No se admite a candidatos con H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto
- Elige tu propio horario de trabajo
- Recibe pagos semanales mediante Stripe o Wise
- Adquiere experiencia práctica en red teaming de IA basado en datos humanos
- Ayuda a hacer que los sistemas de IA sean más sólidos, seguros y confiables
- Trabaja con investigadores destacados
- Se ofrecen adaptaciones razonables previa solicitud
- Obtén pagos de hasta 90 $ por referencias exitosas