51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en seguridad de IA (inglés y tamil) – Contrato remoto
Mercor busca un experto en seguridad de IA que hable inglés y tamil para someter a pruebas de red team a modelos y agentes conversacionales. El puesto por contrato se centra en identificar vulnerabilidades, generar datos de evaluación y elaborar informes de seguridad reproducibles.
Descripción
- Realizar pruebas adversariales de modelos y agentes de IA conversacional mediante jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en múltiples turnos.
- Crear datos generados por personas mediante la anotación de fallos, la categorización de vulnerabilidades y la identificación de riesgos sistémicos.
- Utilizar taxonomías, benchmarks y guías de trabajo establecidos para mantener evaluaciones coherentes.
- Entregar informes reproducibles, conjuntos de datos y casos de ataque para los clientes.
- Evaluar resultados de IA relacionados con temas sensibles, incluidos sesgos, desinformación y comportamientos perjudiciales.
- Identificar debilidades que los métodos de evaluación automatizada podrían pasar por alto.
- Ampliar la cobertura de las evaluaciones para ayudar a minimizar problemas inesperados en producción.
- Mejorar los sistemas de IA de los clientes mediante pruebas adversariales estructuradas.
Requisitos
- Dominio nativo o fluido del inglés y el tamil.
- Criterio sólido al evaluar lenguaje y contenido.
- Capacidad para determinar si las respuestas de la IA son precisas, completas y apropiadas, y explicar el razonamiento.
- Gran atención a errores sutiles, incoherencias y omisiones.
- Cumplimiento constante de las directrices y los estándares de calidad.
- Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos.
- Adaptabilidad a distintos proyectos, formatos de tareas y clientes.
- Capacidad para trabajar como contratista independiente.
- No se admiten candidatos con H1-B ni STEM OPT.
- Se valorará la experiencia en aprendizaje automático adversarial con conjuntos de datos de jailbreak, ataques de inyección de prompts, RLHF o DPO, o extracción de modelos.
- Se valorará la experiencia en ciberseguridad en pruebas de penetración, desarrollo de exploits o ingeniería inversa.
- Se valorará la experiencia en riesgos sociotécnicos relacionados con la investigación de acoso o desinformación, el análisis de abusos o las pruebas de IA conversacional.
- Se valorará la experiencia en exploración creativa en psicología, interpretación o escritura.
Beneficios
- Trabajo totalmente remoto.
- Horario flexible con posibilidad de establecer tus propias horas.
- Pagos semanales mediante Stripe o Wise.
- Participación opcional en proyectos de mayor sensibilidad.
- Orientación clara y recursos de bienestar para el trabajo con contenido sensible.
- Pago por hora competitivo.
- Oportunidad de colaborar con investigadores destacados.
- Pagos por referidos de hasta 90 USD por cada referido contratado con éxito, sujetos a los límites aplicables.
- Adaptaciones razonables disponibles previa solicitud.