51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA remoto – inglés y asamés (contrato)
Mercor busca un experto en seguridad de IA, remoto y contratado, con dominio del inglés y el asamés para someter a pruebas adversariales modelos avanzados, evaluar vulnerabilidades y crear datos humanos de alta calidad para proyectos de seguridad de IA.
Descripción
- Someter a pruebas adversariales modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos
- Crear datos etiquetados por personas mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos
- Utilizar taxonomías, benchmarks y guías operativas para garantizar evaluaciones coherentes
- Desarrollar informes, conjuntos de datos y casos de ataque reproducibles para clientes
- Evaluar resultados de IA relacionados con temas sensibles, incluidos sesgos, desinformación y comportamientos perjudiciales
- Identificar vulnerabilidades que las pruebas automatizadas no detectan
- Ampliar la cobertura de las evaluaciones para ayudar a minimizar problemas inesperados en producción
- Contribuir a proyectos que entrenan y mejoran sistemas de IA avanzados
Requisitos
- Dominio nativo del inglés y el asamés
- Criterio sólido al evaluar la calidad del lenguaje y del contenido
- Capacidad para determinar si las respuestas de IA son precisas, completas y apropiadas
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
- Atención excepcional a errores sutiles, incoherencias y omisiones
- Capacidad para aplicar de forma coherente directrices, taxonomías, benchmarks, guías operativas y estándares de calidad
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y necesidades de clientes
- Debes trabajar como contratista independiente
- Actualmente no se puede ofrecer apoyo a candidatos con H-1B ni STEM OPT
- Se valoran conocimientos en aprendizaje automático adversarial, ciberseguridad, riesgo sociotécnico, evaluación de IA conversacional, psicología, actuación y escritura
Beneficios
- Trabajar completamente a distancia
- Establecer un horario que se adapte a ti
- Recibir pagos semanales a través de Stripe o Wise
- Adquirir experiencia práctica en red teaming de IA basado en datos humanos
- Ayudar a que los sistemas de IA sean más robustos, seguros y confiables
- Colaborar con investigadores destacados de IA
- Hay adaptaciones razonables disponibles previa solicitud
- Obtener pagos de hasta 90 USD por cada recomendación exitosa, sujetos a los límites aplicables