51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA – inglés y maratí (remoto)
Mercor busca expertos en seguridad de IA que hablen inglés y maratí para someter a pruebas de red team a modelos y agentes conversacionales. El trabajo consiste en identificar vulnerabilidades, evaluar respuestas sensibles y crear datos de seguridad reproducibles para laboratorios de IA y clientes.
Descripción
- Realizar pruebas de red team en modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear datos de evaluación humana anotando fallos, categorizando vulnerabilidades e identificando riesgos sistémicos
- Utilizar taxonomías, benchmarks y guías operativas establecidas para respaldar evaluaciones coherentes
- Desarrollar informes, conjuntos de datos y casos de ataque reproducibles para clientes
- Evaluar resultados de IA relacionados con sesgos, desinformación, conductas dañinas y otros temas sensibles
- Identificar vulnerabilidades que las pruebas automatizadas podrían pasar por alto
- Ampliar la cobertura de las evaluaciones para ayudar a minimizar problemas inesperados en producción
- Ayudar a los clientes a mejorar la seguridad, solidez y fiabilidad de sus sistemas de IA
Requisitos
- Dominio nativo tanto del inglés como del maratí
- Criterio sólido para evaluar el lenguaje y el contenido, incluida la precisión, integridad y adecuación de las respuestas de IA
- Capacidad para detectar errores sutiles, incoherencias y omisiones
- Capacidad para seguir directrices y estándares de calidad de forma constante
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
- Adaptabilidad a distintos proyectos, tipos de tareas y clientes
- Capacidad para trabajar como contratista independiente
- No requerir apoyo para H-1B ni STEM OPT
- Se valorará la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de prompts, ataques de RLHF o DPO, o extracción de modelos
- Se valorará la experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valorará la experiencia en riesgos sociotécnicos en la investigación de acoso o desinformación, análisis de abusos o pruebas de IA conversacional
- Se valorará la experiencia en psicología, actuación o escritura que favorezca un pensamiento adversarial poco convencional
Beneficios
- Trabajo totalmente remoto que puede realizarse según tu propio horario
- Pagos semanales mediante Stripe o Wise
- Participación opcional en proyectos de mayor sensibilidad
- Directrices claras y recursos de bienestar para el trabajo con contenido sensible
- Remuneración competitiva
- Oportunidad de colaborar con investigadores destacados
- Pagos por referidos de hasta 90 USD por cada referido exitoso, sujetos a límites