51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em Red Teaming de Segurança de IA: inglês e finlandês, remoto nos Estados Unidos
Realize testes adversariais em modelos e agentes de IA conversacional para os projetos de IA com dados humanos da Mercor. Crie dados reproduzíveis de vulnerabilidades para ajudar a fortalecer sistemas de IA de ponta.
Descrição
- Teste modelos e agentes de IA conversacional usando jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em múltiplas interações
- Anote falhas, categorize vulnerabilidades e identifique riscos sistêmicos
- Aplique taxonomias, benchmarks e playbooks estabelecidos para avaliações consistentes
- Crie relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Identifique vulnerabilidades que os testes automatizados podem não detectar
- Amplie a cobertura das avaliações e ajude a reduzir problemas inesperados em produção
- Trabalhe com pesquisadores renomados em projetos que treinam e aprimoram sistemas de IA
Requisitos
- Fluência ou proficiência nativa em inglês e finlandês
- Experiência anterior em red teaming de IA adversarial, cibersegurança ou investigação sociotécnica
- Capacidade de testar sistemas de IA de forma adversarial e levá-los a pontos de falha
- Experiência na aplicação de frameworks ou benchmarks para testes estruturados
- Capacidade de comunicar riscos com clareza a públicos técnicos e não técnicos
- Adaptabilidade a diferentes projetos e requisitos de clientes
- Disponibilidade para atuar como contratado independente
- Não ser candidato ao visto H-1B nem ao STEM OPT
- Desejável: experiência em aprendizado de máquina adversarial, incluindo conjuntos de dados de jailbreak, injeção de prompt, ataques de RLHF/DPO ou extração de modelos
- Desejável: experiência em cibersegurança, incluindo testes de intrusão, desenvolvimento de exploits ou engenharia reversa
- Desejável: experiência em riscos sociotécnicos, incluindo investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional
- Desejável: experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional
Benefícios
- Trabalho totalmente remoto
- Horário flexível
- Pagamentos semanais por Stripe ou Wise
- Recursos de bem-estar e diretrizes claras para projetos de maior sensibilidade
- Oportunidade de adquirir experiência em red teaming de IA com dados humanos
- Oportunidade direta de ajudar a tornar os sistemas de IA mais robustos, seguros e confiáveis
- Remuneração competitiva
- Bônus de indicação de até US$ 250 por indicação bem-sucedida