51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto remoto en seguridad de IA (inglés y maratí) en Mercor
Pon a prueba modelos de IA conversacional para detectar vulnerabilidades mediante pruebas de red team en inglés y maratí. Crea conjuntos de datos reproducibles, casos de ataque e informes para proyectos de seguridad de IA basados en datos humanos.
Descripción
- Realizar pruebas de red team en modelos y agentes de IA conversacional mediante jailbreaks, inyección de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear datos humanos mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos
- Utilizar taxonomías, benchmarks y playbooks para mantener evaluaciones coherentes
- Desarrollar informes, conjuntos de datos y casos de ataque reproducibles para clientes
- Evaluar resultados de IA relacionados con temas sensibles, incluidos sesgos, desinformación y comportamientos dañinos
- Identificar debilidades que las pruebas automatizadas podrían pasar por alto
- Ampliar la cobertura de las evaluaciones para ayudar a prevenir problemas inesperados en producción
- Apoyar a los clientes en la mejora de la seguridad, solidez y fiabilidad de sus sistemas de IA
Requisitos
- Se requieren conocimientos fluidos o nativos de inglés y maratí
- Criterio sólido sobre el idioma y el contenido, incluida la capacidad de evaluar si las respuestas de la IA son precisas, completas y adecuadas, y de explicar el razonamiento
- Atención excepcional a errores sutiles, incoherencias y omisiones
- Cumplimiento constante de las directrices establecidas y de los estándares de calidad
- Comunicación clara del razonamiento tanto a públicos técnicos como no técnicos
- Capacidad para adaptarse a distintos proyectos, formatos de tareas y clientes
- Debe trabajar como contratista independiente
- No se admiten candidatos con H1-B ni STEM OPT
- Se valorará la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de prompts, ataques de RLHF o DPO, o extracción de modelos
- Se valorará la experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valorará la experiencia en riesgos sociotécnicos relacionados con la investigación de acoso o desinformación, el análisis de abusos o las pruebas de IA conversacional
- Se valorará la experiencia en psicología, interpretación o escritura que fomente un pensamiento adversarial poco convencional
Beneficios
- Trabajo totalmente remoto
- Horarios flexibles con posibilidad de elegir las horas de trabajo
- Pagos semanales mediante Stripe o Wise según los servicios prestados
- La duración del proyecto puede ampliarse, reducirse o finalizarse antes de tiempo según las necesidades del negocio y el rendimiento
- Recursos de bienestar y orientación clara para proyectos que impliquen contenido de mayor sensibilidad
- Adaptaciones razonables disponibles previa solicitud
- Programa de referidos que ofrece hasta 90 USD por cada referido contratado con éxito, sin límite de referidos
- Oportunidad de colaborar con investigadores destacados
- Experiencia realizando red teaming de IA basado en datos humanos en la vanguardia de la seguridad de la IA