51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em testes adversariais de segurança de IA
A Mercor busca um especialista em testes adversariais de segurança de IA para investigar modelos de ponta com prompts adversariais. O trabalho envolve identificar vulnerabilidades e ajudar laboratórios parceiros a aprimorar o alinhamento, a robustez e a segurança dos modelos.
Descrição
- Criar prompts adversariais para investigar modelos de IA de ponta.
- Identificar jailbreaks, comportamentos inseguros, alucinações e falhas no cumprimento de políticas.
- Avaliar a robustez dos modelos em áreas sensíveis, incluindo desinformação, cibersegurança, biossegurança, fraude e conteúdo político.
- Registrar vulnerabilidades e ajudar a preparar benchmarks de segurança e relatórios de red teaming.
- Trabalhar com pesquisadores de IA para fortalecer o alinhamento, a robustez e a segurança dos modelos.
- Contribuir para projetos de treinamento e aprimoramento de sistemas de IA.
Requisitos
- Bacharelado ou grau superior em ciência da computação, cibersegurança, jornalismo, comunicação, psicologia, biologia, química, políticas públicas ou área relacionada.
- Pelo menos cinco anos de experiência profissional em segurança de IA, red teaming de IA, confiança e segurança, cibersegurança, jornalismo investigativo, ciências da vida ou área relacionada.
- Forte capacidade de raciocínio analítico, criação de prompts e comunicação escrita.
- Experiência na criação de prompts adversariais ou na avaliação de sistemas de IA de ponta.
- Experiência com red teaming de IA, RLHF, SFT, alinhamento de IA ou confiança e segurança é desejável.
- Familiaridade com testes de jailbreak, engenharia de prompts ou métodos de avaliação adversarial é desejável.
- Especialização em áreas complexas, como cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica é desejável.
- Capacidade de atuar como prestador de serviços independente.
- Não há suporte para candidatos com visto H-1B ou STEM OPT.
Benefícios
- Trabalho remoto de qualquer lugar dos Estados Unidos.
- Definição do próprio horário de trabalho.
- Pagamentos semanais via Stripe ou Wise.
- Os projetos podem ser prorrogados, encurtados ou encerrados antes do previsto conforme as necessidades do projeto e o desempenho.
- Trabalho com pesquisadores de IA e equipes de segurança de destaque.
- Contribuição para a segurança de sistemas de IA de ponta.
- Adaptações razoáveis disponíveis mediante solicitação.
- Pagamentos por indicação de até US$ 340 por indicação bem-sucedida; há limites.