51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Especialista en pruebas de seguridad de IA
Pon a prueba los sistemas de IA de vanguardia de los laboratorios asociados a Mercor buscando vulnerabilidades en ámbitos de alto riesgo. Aporta hallazgos a los parámetros de referencia de seguridad y ayuda a los investigadores a mejorar la solidez y la alineación de los modelos.
Descripción
- Crea instrucciones adversarias para probar modelos de IA de vanguardia.
- Detecta jailbreaks, comportamientos inseguros, alucinaciones e incumplimientos de políticas.
- Evalúa la solidez de los modelos en ámbitos sensibles como la desinformación, la ciberseguridad, la bioseguridad, el fraude y el contenido político.
- Documenta vulnerabilidades y contribuye a los parámetros de referencia de seguridad y a los informes de equipos rojos.
- Colabora con investigadores de IA para reforzar la alineación, la solidez y la seguridad de los modelos.
- Apoya proyectos de entrenamiento y mejora de sistemas de IA.
- Organiza tu propio horario; la duración del proyecto puede cambiar o terminar antes según las necesidades del negocio y el rendimiento.
Requisitos
- Grado universitario o superior en informática, ciberseguridad, periodismo, comunicación, psicología, biología, química, políticas públicas o un campo relacionado.
- Al menos cinco años de experiencia profesional en seguridad de IA, pruebas de equipos rojos de IA, confianza y seguridad, ciberseguridad, periodismo de investigación, ciencias de la vida o un ámbito relacionado.
- Sólidas habilidades de razonamiento analítico, diseño de instrucciones y redacción.
- Experiencia creando instrucciones adversarias o evaluando sistemas de IA de vanguardia.
- Se valorará la experiencia en pruebas de equipos rojos de IA, RLHF, SFT, alineación de IA o confianza y seguridad.
- Se valorará el conocimiento de pruebas de jailbreak, ingeniería de instrucciones o métodos de evaluación adversaria.
- Se valorará la experiencia en uno o varios ámbitos sensibles, como ciberseguridad, bioseguridad, contenido político, desinformación o seguridad científica.
- La colaboración se realizará como contratista independiente.
- Debe poder trabajar sin apoyo para obtener una visa H-1B o STEM OPT.
Beneficios
- Trabajo totalmente remoto con horario flexible.
- Pagos semanales a través de Stripe o Wise por los servicios prestados.
- Colaboración con destacados investigadores de IA y equipos de seguridad.
- Ayuda a definir cómo responden los sistemas de IA ante desafíos de seguridad complejos y reales.
- Remuneración competitiva.
- Adaptaciones razonables disponibles previa solicitud.
- Pagos por recomendación de hasta 340 USD por cada recomendación exitosa, sujetos a límites.