LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
LinkedIn
Empleos de la empresa

Experto en Red Team de Seguridad de IA (inglés y panyabí)

Mercor busca un experto en seguridad de IA que hable inglés y panyabí para realizar pruebas de red team en modelos y agentes conversacionales. El puesto por contrato se centra en descubrir vulnerabilidades, crear casos de ataque y elaborar informes de seguridad reproducibles para clientes de investigación en IA.

USEstados Unidos
16 $ – 22 $ / hora
RemotoContratoIntermedioSeniorIdioma Obligatorio: inglésIdioma Obligatorio: punyabíInteligencia artificial

Descripción

  • Probar modelos y agentes de IA conversacional con jailbreaks, inyecciones de prompts, escenarios de uso indebido, explotación de sesgos y manipulación en varios turnos
  • Evaluar las respuestas de los modelos sobre temas sensibles, incluidos los sesgos, la desinformación y las conductas dañinas
  • Documentar fallos, categorizar vulnerabilidades e identificar riesgos sistémicos
  • Utilizar taxonomías, benchmarks y guías de pruebas establecidas para mantener evaluaciones coherentes
  • Crear informes, conjuntos de datos y casos de ataque reproducibles para los clientes
  • Investigar sistemas de IA para detectar debilidades que las pruebas automatizadas podrían pasar por alto
  • Ampliar la cobertura de las evaluaciones para ayudar a limitar problemas inesperados en producción
  • Mejorar los sistemas de IA de los clientes mediante pruebas de red team dirigidas por personas y basadas en datos

Requisitos

  • Dominio nativo o fluido del inglés y el panyabí
  • Criterio sólido para evaluar lenguaje y contenido
  • Capacidad para determinar si las respuestas de la IA son precisas, completas y adecuadas, y explicar la evaluación
  • Atención meticulosa a errores sutiles, incoherencias y omisiones
  • Cumplimiento constante de las directrices de pruebas y los estándares de calidad
  • Capacidad para comunicar el razonamiento con claridad a públicos técnicos y no técnicos
  • Flexibilidad para trabajar en distintos proyectos, formatos de tareas y clientes
  • Disponibilidad para colaborar como contratista independiente
  • No debe requerir patrocinio H-1B ni STEM OPT
  • La experiencia preferida puede incluir aprendizaje automático adversarial, conjuntos de datos de jailbreaks, inyección de prompts, ataques de RLHF/DPO, extracción de modelos, pruebas de penetración, desarrollo de exploits, ingeniería inversa, análisis de acoso o desinformación, análisis de abusos, pruebas de IA conversacional, psicología, interpretación o redacción

Beneficios

  • Trabajar a distancia desde cualquier lugar permitido por el puesto
  • Establecer tu propio horario de trabajo
  • Recibir pagos semanales a través de Stripe o Wise por los servicios prestados
  • Los proyectos pueden ampliarse, reducirse o finalizar antes de tiempo según las necesidades del negocio y el rendimiento
  • Acceder a recursos de bienestar y orientación clara para proyectos de mayor sensibilidad
  • Desarrollar experiencia en red teaming de IA basado en datos humanos
  • Ayudar a hacer que los sistemas de IA sean más sólidos, seguros y confiables
  • Compensación competitiva
  • Colaborar con destacados investigadores de IA

Empleos relacionados

HETI

Consultor/a sénior de gestión de riesgos – tiempo parcial, modalidad híbrida

HETI
51 – 200 Empleados
Atención sanitariaConstrucciónConsultoría
USEstados Unidos
50 $ / hora
HíbridoTiempo parcialSeniorLíderIdioma Obligatorio: inglésSeguros

Consultor/a a tiempo parcial que realiza evaluaciones de riesgos de seguros y tareas de higiene industrial para clientes de salud y seguridad ambiental de HETI. El trabajo es principalmente remoto, con visitas ocasionales a centros locales.

Abrir