51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Red Teamer de Seguridad de IA - Contrato remoto en Estados Unidos
Mercor busca un Red Teamer de Seguridad de IA por contrato para desafiar modelos de IA de frontera y descubrir vulnerabilidades. El puesto se centra en ámbitos de alto riesgo y contribuye al desarrollo de sistemas de IA más seguros y fiables.
Descripción
- Crear prompts adversariales que desafíen rigurosamente a los modelos de IA de frontera
- Detectar jailbreaks, comportamientos inseguros, alucinaciones y fallos en el cumplimiento de las políticas de seguridad
- Evaluar la resiliencia de los modelos frente a la desinformación, la ciberseguridad, la bioseguridad, el fraude, el contenido político y otras áreas sensibles
- Registrar las debilidades descubiertas y contribuir a los benchmarks de seguridad y a los informes de red teaming
- Trabajar con investigadores de IA para avanzar en la alineación, la robustez y la seguridad de los modelos
- Ayudar a proteger y mejorar los sistemas emergentes de IA de frontera
- Definir cómo los modelos de IA gestionan escenarios de seguridad difíciles en contextos reales
Requisitos
- Título universitario o superior en informática, ciberseguridad, periodismo, comunicación, psicología, biología, química, políticas públicas o un campo relacionado
- Al menos cinco años de experiencia profesional en seguridad de IA, red teaming de IA, confianza y seguridad, ciberseguridad, periodismo de investigación, ciencias de la vida o un área relacionada
- Sólido criterio analítico, capacidad para desarrollar prompts y habilidades de comunicación escrita
- Experiencia práctica en la creación de prompts adversariales o en la evaluación de sistemas de IA de frontera
- Se valorará: experiencia en red teaming de IA, RLHF, SFT, alineación de IA o confianza y seguridad
- Se valorará: familiaridad con evaluaciones de jailbreaks, ingeniería de prompts o métodos de evaluación adversarial
- Se valorará: conocimientos especializados en áreas complejas como ciberseguridad, bioseguridad, contenido político, desinformación o seguridad científica
- Disponibilidad para trabajar como contratista independiente
- No se admiten candidatos con H-1B ni STEM OPT
Beneficios
- Trabajo totalmente remoto
- Establece tu propio horario y completa las tareas con un horario flexible
- Recibe pagos semanales mediante Stripe o Wise
- La duración del proyecto puede cambiar o finalizar antes según las necesidades del negocio y el desempeño
- Remuneración competitiva
- Trabaja junto a destacados investigadores de IA y equipos de seguridad
- Hay adaptaciones razonables disponibles previa solicitud
- Programa de referidos que ofrece hasta 340 USD por cada referido contratado con éxito, sujeto a límites de referidos