51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA – Inglés y maratí (contrato remoto)
Mercor busca un experto en seguridad de IA con fluidez en inglés y maratí para realizar pruebas de ataque contra sistemas de IA conversacional. El puesto por contrato se centra en pruebas adversariales, análisis de vulnerabilidades e informes claros para proyectos de datos humanos y de IA de frontera.
Descripción
- Pon a prueba modelos y agentes de IA conversacional frente a jailbreaks, inyección de instrucciones, escenarios de uso indebido, explotación de sesgos y manipulación en varias interacciones
- Crea recursos de datos humanos anotando fallos, clasificando vulnerabilidades e identificando riesgos sistémicos
- Utiliza taxonomías, pruebas de referencia y manuales establecidos para garantizar evaluaciones coherentes
- Entrega casos de ataque reproducibles, conjuntos de datos e informes dirigidos a clientes
- Evalúa las respuestas de la IA sobre temas sensibles, incluidos los sesgos, la desinformación y los comportamientos perjudiciales
- Detecta debilidades que los métodos de evaluación automatizada podrían pasar por alto
- Amplía la cobertura de las pruebas para ayudar a prevenir problemas inesperados en producción
- Ayuda a los clientes a mejorar la seguridad, solidez y fiabilidad de sus sistemas de IA
- Trabaja con investigadores destacados en iniciativas que entrenan y hacen avanzar modelos de IA de frontera
Requisitos
- Dominio nativo o fluido del inglés y el maratí
- Criterio sólido al evaluar el lenguaje y el contenido
- Capacidad para determinar si las respuestas de la IA son precisas, completas y adecuadas, con explicaciones claras
- Atención cuidadosa a errores sutiles, incoherencias y omisiones
- Cumplimiento fiable de las directrices de pruebas y los requisitos de calidad
- Comunicación clara del razonamiento tanto a públicos técnicos como no técnicos
- Flexibilidad para trabajar en distintos proyectos, tareas y con diferentes clientes
- Capacidad para trabajar como contratista independiente
- No debe requerir patrocinio H-1B ni STEM OPT
- Se valora la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, inyección de instrucciones, ataques RLHF/DPO o extracción de modelos
- Se valora la experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa
- Se valora la experiencia en riesgos sociotécnicos, como investigación de acoso o desinformación, análisis de abusos o pruebas de IA conversacional
- Se valora la experiencia en psicología, actuación o escritura que fomente un pensamiento adversarial poco convencional
Beneficios
- Trabajo contractual totalmente remoto
- Horario flexible con posibilidad de establecer tus propias horas de trabajo
- Pagos semanales mediante Stripe o Wise
- La duración del proyecto puede cambiar o finalizar antes según las necesidades del negocio y el desempeño
- Participación opcional en proyectos que impliquen contenido de mayor sensibilidad
- Orientación definida y recursos de bienestar para asignaciones con contenido sensible
- Adaptaciones razonables disponibles previa solicitud
- Pagos de hasta 90 USD por cada recomendación contratada con éxito