51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en Red Teaming de Seguridad de IA: inglés y finés, remoto en Estados Unidos
Realiza pruebas adversariales de modelos y agentes de IA conversacional para los proyectos de IA con datos humanos de Mercor. Crea datos de vulnerabilidades reproducibles para ayudar a reforzar los sistemas de IA más avanzados.
Descripción
- Pon a prueba modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
- Anota los fallos, categoriza las vulnerabilidades e identifica riesgos sistémicos
- Aplica taxonomías, benchmarks y playbooks establecidos para realizar evaluaciones coherentes
- Crea informes, conjuntos de datos y casos de ataque reproducibles para los clientes
- Identifica vulnerabilidades que las pruebas automatizadas podrían pasar por alto
- Amplía la cobertura de las evaluaciones y ayuda a reducir problemas imprevistos en producción
- Colabora con investigadores destacados en proyectos que entrenan y mejoran sistemas de IA
Requisitos
- Dominio fluido o nativo del inglés y el finés
- Experiencia previa en red teaming aplicado a IA adversarial, ciberseguridad o análisis sociotécnico
- Capacidad para probar sistemas de IA de forma adversarial y llevarlos hacia puntos de fallo
- Experiencia aplicando marcos o benchmarks para realizar pruebas estructuradas
- Capacidad para comunicar riesgos con claridad a públicos técnicos y no técnicos
- Adaptabilidad a distintos proyectos y requisitos de clientes
- Disponibilidad para trabajar como contratista independiente
- No ser candidato a H-1B ni a STEM OPT
- Se valorará la experiencia en aprendizaje automático adversarial, incluidos conjuntos de datos de jailbreak, inyección de prompts, ataques de RLHF/DPO o extracción de modelos
- Se valorará la experiencia en ciberseguridad, incluidas pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valorará la experiencia en riesgos sociotécnicos, incluidos análisis de acoso o desinformación, análisis de abusos o pruebas de IA conversacional
- Se valorará la experiencia en psicología, actuación o escritura que favorezca un pensamiento adversarial no convencional
Beneficios
- Trabajo totalmente remoto
- Horario flexible
- Pagos semanales mediante Stripe o Wise
- Recursos de bienestar y directrices claras para proyectos de mayor sensibilidad
- Oportunidad de adquirir experiencia en red teaming de IA con datos humanos
- Oportunidad directa de ayudar a hacer que los sistemas de IA sean más sólidos, seguros y confiables
- Remuneración competitiva
- Bono por recomendación de hasta 250 USD por cada recomendación exitosa