51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Red Teamer de Segurança de IA - Contrato Remoto (Estados Unidos)
A Mercor busca um red teamer de segurança de IA para descobrir vulnerabilidades em modelos de IA de ponta por meio de testes adversariais. A função envolve criar prompts e avaliar comportamentos de alto risco dos modelos em parceria com pesquisadores de segurança de IA.
Descrição
- Criar prompts adversariais para desafiar modelos de IA de ponta
- Detectar jailbreaks, comportamentos inseguros, alucinações e violações de políticas
- Avaliar a robustez dos modelos em áreas sensíveis como desinformação, cibersegurança, biossegurança, fraude e conteúdo político
- Registrar vulnerabilidades e contribuir para benchmarks de segurança e relatórios de red teaming
- Trabalhar com pesquisadores de IA para fortalecer o alinhamento, a robustez e a segurança dos modelos
- Contribuir para projetos de treinamento e aprimoramento de sistemas de IA
Requisitos
- Bacharelado ou grau superior em ciência da computação, cibersegurança, jornalismo, comunicação, psicologia, biologia, química, políticas públicas ou área relacionada
- Pelo menos cinco anos de experiência profissional em segurança de IA, red teaming de IA, confiança e segurança, cibersegurança, jornalismo investigativo, ciências da vida ou área relacionada
- Forte capacidade de raciocínio analítico, criação de prompts e comunicação escrita
- Experiência na criação de prompts adversariais ou na avaliação de sistemas de IA de ponta
- Experiência em red teaming de IA, RLHF, SFT, alinhamento de IA ou confiança e segurança será considerada um diferencial
- Familiaridade com testes de jailbreak, engenharia de prompts ou métodos de avaliação adversarial será considerada um diferencial
- Conhecimento especializado em um ou mais domínios complexos, como cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica, será considerado um diferencial
- Capacidade de trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são atendidos
Benefícios
- Trabalho totalmente remoto
- Horário flexível
- Pagamentos semanais por Stripe ou Wise
- Os projetos podem ser estendidos, reduzidos ou encerrados antecipadamente conforme as necessidades do negócio e o desempenho
- Trabalho de testes adversariais com pesquisadores e equipes de segurança de IA líderes
- Oportunidade de influenciar como os sistemas de IA lidam com desafios complexos de segurança no mundo real
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de indicação de até US$ 340 por indicação bem-sucedida, sujeitos aos limites de indicação