51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Red Teamer de Segurança de IA - Contrato remoto nos Estados Unidos
A Mercor está procurando um Red Teamer de Segurança de IA contratado para desafiar modelos de IA de fronteira e descobrir vulnerabilidades. A função se concentra em áreas de alto risco e apoia o desenvolvimento de sistemas de IA mais seguros e confiáveis.
Descrição
- Criar prompts adversariais que desafiem rigorosamente modelos de IA de fronteira
- Detectar jailbreaks, comportamentos inseguros, alucinações e falhas no cumprimento das políticas de segurança
- Avaliar a resiliência dos modelos em relação a desinformação, cibersegurança, biossegurança, fraude, conteúdo político e outras áreas sensíveis
- Registrar as vulnerabilidades descobertas e apoiar benchmarks de segurança e relatórios de red teaming
- Trabalhar com pesquisadores de IA para avançar o alinhamento, a robustez e a segurança dos modelos
- Ajudar a proteger e melhorar sistemas emergentes de IA de fronteira
- Moldar a forma como os modelos de IA lidam com cenários de segurança desafiadores em contextos reais
Requisitos
- Bacharelado ou grau superior em ciência da computação, cibersegurança, jornalismo, comunicação, psicologia, biologia, química, políticas públicas ou área relacionada
- Pelo menos cinco anos de experiência profissional em segurança de IA, red teaming de IA, confiança e segurança, cibersegurança, jornalismo investigativo, ciências da vida ou área relacionada
- Forte capacidade de análise e julgamento, habilidade para desenvolver prompts e boa comunicação escrita
- Experiência prática na criação de prompts adversariais ou na avaliação de sistemas de IA de fronteira
- Preferencial: experiência em red teaming de IA, RLHF, SFT, alinhamento de IA ou confiança e segurança
- Preferencial: familiaridade com avaliações de jailbreaks, engenharia de prompts ou métodos de avaliação adversarial
- Preferencial: especialização em áreas complexas, como cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica
- Disponibilidade para trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Trabalho totalmente remoto
- Defina seu próprio horário de trabalho e conclua as tarefas com flexibilidade
- Receba pagamentos semanais por meio do Stripe ou Wise
- A duração do projeto pode mudar ou terminar antecipadamente conforme as necessidades do negócio e o desempenho
- Remuneração competitiva
- Trabalhe ao lado de importantes pesquisadores de IA e equipes de segurança
- Adaptações razoáveis estão disponíveis mediante solicitação
- Programa de indicação que oferece até US$ 340 por cada indicação bem-sucedida, sujeito aos limites de indicação