51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Red Teamer de Seguridad de IA - Contrato Remoto (Estados Unidos)
Mercor busca un red teamer de seguridad de IA para descubrir vulnerabilidades en modelos de IA de vanguardia mediante pruebas adversariales. El puesto implica diseñar prompts y evaluar comportamientos de alto riesgo de los modelos junto con investigadores de seguridad de IA.
Descripción
- Crear prompts adversariales para desafiar modelos de IA de vanguardia
- Detectar jailbreaks, comportamientos inseguros, alucinaciones y violaciones de políticas
- Evaluar la solidez de los modelos en áreas sensibles como la desinformación, la ciberseguridad, la bioseguridad, el fraude y el contenido político
- Registrar vulnerabilidades y contribuir a benchmarks de seguridad e informes de red teaming
- Colaborar con investigadores de IA para reforzar la alineación, la solidez y la seguridad de los modelos
- Contribuir a proyectos de entrenamiento y mejora de sistemas de IA
Requisitos
- Licenciatura o un título superior en informática, ciberseguridad, periodismo, comunicación, psicología, biología, química, políticas públicas o un campo relacionado
- Al menos cinco años de experiencia profesional en seguridad de IA, red teaming de IA, confianza y seguridad, ciberseguridad, periodismo de investigación, ciencias de la vida o un área relacionada
- Sólidas capacidades de razonamiento analítico, diseño de prompts y comunicación escrita
- Experiencia en la creación de prompts adversariales o la evaluación de sistemas de IA de vanguardia
- Se valora la experiencia en red teaming de IA, RLHF, SFT, alineación de IA o confianza y seguridad
- Se valora la familiaridad con pruebas de jailbreak, ingeniería de prompts o métodos de evaluación adversarial
- Se valora la experiencia en uno o más ámbitos complejos, como ciberseguridad, bioseguridad, contenido político, desinformación o seguridad científica
- Capacidad para trabajar como contratista independiente
- No se ofrece apoyo a candidatos con visado H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto
- Horario flexible
- Pagos semanales mediante Stripe o Wise
- Los proyectos pueden ampliarse, acortarse o finalizarse antes de tiempo según las necesidades del negocio y el rendimiento
- Trabajo de pruebas adversariales con destacados investigadores y equipos de seguridad de IA
- Oportunidad de influir en la forma en que los sistemas de IA gestionan desafíos complejos de seguridad en el mundo real
- Adaptaciones razonables disponibles previa solicitud
- Pagos por referencias de hasta 340 USD por cada referencia exitosa, sujetos a límites de referencias