51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA remoto (inglés y guyaratí) – Contrato
Mercor busca un experto en seguridad de IA, bajo contrato y con dominio del inglés y el guyaratí, para realizar pruebas adversariales de modelos de IA de frontera. El trabajo consiste en probar vulnerabilidades, evaluar fallos y crear conjuntos de datos y casos de ataque reproducibles.
Descripción
- Probar modelos y agentes de IA conversacional para detectar jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear datos generados por personas mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos
- Usar taxonomías, benchmarks y manuales establecidos para realizar evaluaciones coherentes
- Desarrollar informes para clientes, conjuntos de datos y casos de ataque reproducibles
- Evaluar las respuestas de la IA para detectar problemas sensibles, incluidos sesgos, desinformación y comportamientos perjudiciales
- Encontrar debilidades que las pruebas automatizadas no detectan
- Ampliar la cobertura de las evaluaciones para ayudar a prevenir problemas inesperados en producción
- Contribuir a proyectos que entrenan y mejoran sistemas de IA de frontera
Requisitos
- Dominio nativo o fluido del inglés y el guyaratí
- Criterio sólido para evaluar el lenguaje y el contenido en cuanto a precisión, integridad y adecuación
- Capacidad para detectar errores sutiles, incoherencias y omisiones
- Cumplimiento constante de las directrices establecidas y de los estándares de calidad
- Comunicación clara del razonamiento tanto a públicos técnicos como no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y necesidades de clientes
- Participación como contratista independiente
- Las personas candidatas con H-1B y STEM OPT no son elegibles
- Se valora la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de prompts, ataques de RLHF/DPO o extracción de modelos
- Se valora la experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valora la experiencia en riesgos sociotécnicos relacionados con la investigación de acoso o desinformación, el análisis de abusos o las pruebas de IA conversacional
- Se valora la experiencia en psicología, actuación o escritura que favorezca un pensamiento adversarial poco convencional
Beneficios
- Trabajar de forma remota desde Estados Unidos
- Elegir un horario flexible que se adapte a tu disponibilidad
- Recibir pagos semanales mediante Stripe o Wise
- Elegir participar o no en proyectos de mayor sensibilidad
- Acceder a orientación clara y recursos de bienestar para asignaciones con contenido sensible
- Remuneración por hora competitiva
- Adaptaciones razonables disponibles previa solicitud
- Oportunidad de ganar hasta 90 USD por cada recomendación exitosa, sujeta a los límites aplicables