51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Especialista en pruebas de seguridad de IA - Trabajo remoto en Estados Unidos
Mercor busca un especialista remoto en pruebas de seguridad de IA para desafiar modelos de IA de frontera y descubrir vulnerabilidades en dominios de alto riesgo. El puesto por contrato contribuye a que los laboratorios de IA desarrollen y mejoren sistemas avanzados.
Descripción
- Crear prompts adversariales para evaluar modelos de IA de frontera
- Detectar jailbreaks, comportamientos inseguros, alucinaciones y violaciones de políticas
- Evaluar la resiliencia de los modelos frente a la desinformación, las amenazas cibernéticas, los riesgos de bioseguridad, el fraude, el contenido político y otros temas sensibles
- Registrar las vulnerabilidades descubiertas y ayudar a elaborar benchmarks de seguridad e informes de pruebas de seguridad
- Colaborar con investigadores de IA para reforzar la alineación, la robustez y la seguridad de los modelos
- Contribuir a proyectos de entrenamiento y mejora de sistemas de IA
Requisitos
- Título universitario de grado o superior en informática, ciberseguridad, periodismo, comunicación, psicología, biología, química, políticas públicas o un campo relacionado
- Al menos cinco años de experiencia profesional en seguridad de IA, pruebas de seguridad de IA, confianza y seguridad, ciberseguridad, periodismo de investigación, ciencias de la vida o un área relacionada
- Sólido criterio analítico, capacidad para diseñar prompts y habilidades de comunicación escrita
- Experiencia en la creación de prompts adversariales o en la evaluación de sistemas de IA de frontera
- Se valora la experiencia en pruebas de seguridad de IA, RLHF, SFT, alineación de IA o confianza y seguridad
- Se valora el conocimiento de pruebas de jailbreak, ingeniería de prompts o métodos de evaluación adversarial
- Se valora la experiencia en al menos un dominio de zona gris, como ciberseguridad, bioseguridad, contenido político, desinformación o seguridad científica
- Capacidad para trabajar como contratista independiente
- No se admiten candidatos con H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto
- Horario flexible y autogestionado
- Pagos semanales a través de Stripe o Wise
- Los proyectos pueden ampliarse, acortarse o finalizarse antes de tiempo según las necesidades del negocio y el desempeño
- Remuneración competitiva
- Colaboración con destacados investigadores de IA y equipos de seguridad
- Adaptaciones razonables disponibles previa solicitud
- Pagos de hasta 340 USD por cada recomendación exitosa, sujetos a los límites aplicables