51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA: inglés y bengalí (contrato remoto)
Mercor busca un especialista en red teaming de seguridad de IA que hable inglés y bengalí para identificar vulnerabilidades en sistemas de IA conversacional. El puesto implica crear casos de ataque reproducibles y datos generados por personas para laboratorios de IA que entrenan modelos avanzados.
Descripción
- Probar modelos y agentes de IA conversacional mediante jailbreaks, inyección de instrucciones, escenarios de uso indebido, explotación de sesgos y manipulación en varias interacciones
- Crear datos generados por personas mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos
- Utilizar taxonomías, benchmarks y manuales establecidos para mantener la coherencia de las evaluaciones
- Entregar informes, conjuntos de datos y casos de ataque reproducibles para los clientes
- Evaluar respuestas de IA relacionadas con sesgos, desinformación, comportamientos perjudiciales y otros temas delicados
- Ampliar la cobertura de las evaluaciones y contribuir a sistemas de IA más sólidos para los clientes
Requisitos
- Dominio nativo o fluido del inglés y el bengalí
- Criterio sólido al evaluar lenguaje y contenido, incluida la capacidad de determinar si las respuestas de la IA son precisas, completas y apropiadas, y explicar la evaluación
- Gran atención a errores sutiles, incoherencias y omisiones
- Cumplimiento fiable de las directrices de prueba y los estándares de calidad
- Comunicación clara del razonamiento tanto a audiencias técnicas como no técnicas
- Disposición para adaptarse a distintos proyectos, formatos de tareas y clientes
- Capacidad para trabajar como contratista independiente
- No requerir patrocinio de H-1B ni STEM OPT
- Se valora la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de instrucciones, ataques de RLHF/DPO o extracción de modelos
- Se valora la experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valora la experiencia en riesgos sociotécnicos, como investigación de acoso o desinformación, análisis de abusos o pruebas de IA conversacional
- Se valora la experiencia en psicología, actuación o escritura que favorezca un pensamiento adversarial poco convencional
Beneficios
- Trabajar completamente a distancia
- Establecer un horario flexible y trabajar según tu disponibilidad
- Recibir pagos semanales mediante Stripe o Wise
- Elegir si participar en proyectos de mayor sensibilidad
- Acceder a orientación clara y recursos de bienestar para tareas con contenido delicado
- Recibir una compensación competitiva
- Adquirir experiencia en red teaming de IA basado en datos generados por personas
- Colaborar con investigadores líderes en IA
- Obtener pagos por referidos de hasta 90 USD por cada referido exitoso