51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA remoto (inglés y tamil)
Mercor busca un experto en seguridad de IA que hable inglés y tamil para someter a pruebas de red team modelos y agentes conversacionales. El puesto por contrato se centra en identificar vulnerabilidades, evaluar resultados sensibles y crear datos de seguridad reproducibles para entrenar IA de vanguardia.
Descripción
- Somete a pruebas de red team modelos y agentes de IA conversacionales mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varias interacciones
- Etiqueta fallos, categoriza vulnerabilidades e identifica riesgos sistémicos
- Aplica de forma coherente taxonomías, benchmarks y guías de pruebas establecidas
- Crea informes, conjuntos de datos y casos de ataque reproducibles
- Evalúa resultados de IA relacionados con sesgos, desinformación, comportamientos dañinos y otros temas sensibles
- Amplía la cobertura de las evaluaciones al encontrar debilidades que las pruebas automatizadas pueden pasar por alto
- Colabora con equipos de proyecto que desarrollan y mejoran sistemas de IA de vanguardia
Requisitos
- Dominio nativo o fluido tanto del inglés como del tamil
- Criterio sólido al evaluar lenguaje y contenido
- Capacidad para determinar si las respuestas de la IA son precisas, completas y adecuadas
- Gran atención a errores sutiles, incoherencias y omisiones
- Cumplimiento constante de las directrices y los estándares de calidad
- Capacidad para comunicar claramente el razonamiento a públicos técnicos y no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y con diferentes clientes
- Disponibilidad para trabajar como contratista independiente
- No debe requerir patrocinio de visado H-1B ni STEM OPT
- Se valora la experiencia en aprendizaje automático adversarial, ciberseguridad, riesgos sociotécnicos o exploración creativa
Beneficios
- Trabajo totalmente remoto
- Horario flexible
- Pagos semanales mediante Stripe o Wise
- Remuneración competitiva
- Adquirir experiencia en red teaming de IA basado en datos humanos
- Contribuir a que los sistemas de IA sean más sólidos, seguros y fiables
- Colaborar con investigadores destacados
- Adaptaciones razonables disponibles previa solicitud
- Pagos por referencias de hasta 90 USD por cada referencia exitosa