51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA, inglês e neerlandês (contrato remoto)
A Mercor busca especialistas em segurança de IA que falem inglês e neerlandês para realizar red teaming em modelos e agentes conversacionais. O trabalho envolve criar dados de vulnerabilidades, cenários de ataque e relatórios de segurança reproduzíveis para o desenvolvimento de IA de fronteira.
Descrição
- Testar modelos e agentes de IA conversacionais usando jailbreaks, injeção de prompts, cenários de uso indevido, exploração de vieses e manipulação em múltiplos turnos
- Criar dados gerados por pessoas anotando falhas, classificando vulnerabilidades e identificando riscos sistêmicos
- Usar taxonomias, benchmarks e playbooks para apoiar testes de segurança consistentes
- Desenvolver relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Encontrar vulnerabilidades que os testes automatizados podem não detectar
- Ampliar a cobertura das avaliações para ajudar a reduzir riscos inesperados em produção
- Trabalhar com pesquisadores renomados para treinar e aprimorar sistemas de IA de fronteira
Requisitos
- Fluência nativa em inglês e neerlandês
- Experiência anterior com red teaming de IA, trabalho adversarial em cibersegurança ou investigação sociotécnica
- Capacidade de testar sistemas de IA de forma adversarial e conduzi-los a condições de falha
- Experiência aplicando frameworks ou benchmarks a testes estruturados
- Capacidade de comunicar riscos com clareza a públicos técnicos e não técnicos
- Capacidade de se adaptar a diferentes projetos e clientes
- Experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompts, ataques de RLHF/DPO ou extração de modelos é desejável
- Experiência em cibersegurança com testes de intrusão, desenvolvimento de exploits ou engenharia reversa é desejável
- Experiência em riscos sociotécnicos envolvendo investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional é desejável
- Experiência em investigação criativa em psicologia, atuação ou escrita é desejável
- É necessário poder trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Trabalho totalmente remoto
- Horário flexível com possibilidade de definir o próprio horário
- Pagamentos semanais por Stripe ou Wise com base nos serviços prestados
- Os projetos podem ser estendidos, encurtados ou encerrados antecipadamente conforme as necessidades do negócio e o desempenho
- A participação em projetos de maior sensibilidade é opcional
- São fornecidas diretrizes de conteúdo e recursos de bem-estar
- Adaptações razoáveis estão disponíveis mediante solicitação
- Pagamento por hora competitivo
- Possibilidade de receber até US$ 250 por indicação bem-sucedida, sujeita a limites