51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto remoto en seguridad de IA (inglés y telugu)
Mercor busca un especialista en red teaming de seguridad de IA, con dominio del inglés y el telugu, para identificar vulnerabilidades en modelos de IA de vanguardia. El trabajo incluye crear casos de prueba adversariales, conjuntos de datos estructurados e informes reproducibles.
Descripción
- Probar modelos y agentes de IA conversacional con jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
- Documentar fallos, categorizar vulnerabilidades e identificar riesgos sistémicos
- Aplicar taxonomías, referencias de evaluación y guías de trabajo establecidas para realizar evaluaciones coherentes
- Crear informes reproducibles, conjuntos de datos y casos de ataque adversariales
- Evaluar las respuestas de la IA para detectar sesgos, desinformación, comportamientos dañinos y otros riesgos relacionados con contenido sensible
- Ampliar la cobertura de las evaluaciones para encontrar vulnerabilidades que las pruebas automatizadas podrían pasar por alto
- Contribuir a proyectos que entrenan y mejoran sistemas de IA de vanguardia
Requisitos
- Dominio nativo del inglés y el telugu
- Criterio sólido para evaluar si las respuestas de la IA son precisas, completas y apropiadas
- Capacidad para detectar errores sutiles, incoherencias y omisiones
- Adhesión constante a las directrices y los estándares de calidad
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
- Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
- Disposición para trabajar como contratista independiente
- No requerir apoyo para una visa H-1B ni STEM OPT
- Es útil tener experiencia en aprendizaje automático adversarial, ciberseguridad, riesgos sociotécnicos o análisis creativo
Beneficios
- Trabajo completamente remoto
- Elige tu propio horario de trabajo
- Recibe pagos semanales mediante Stripe o Wise
- La duración del proyecto puede cambiar o finalizar antes según las necesidades del negocio y el desempeño
- Remuneración por hora competitiva
- Adquiere experiencia en red teaming de IA basado en datos humanos
- Ayuda a hacer que los sistemas de IA sean más sólidos, seguros y confiables
- Hay adaptaciones razonables disponibles previa solicitud
- Gana hasta 90 USD por cada recomendación exitosa