51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA (inglês e canarês) – Contrato remoto nos Estados Unidos
A Mercor busca um especialista em red teaming de IA fluente em inglês e canarês para testar vulnerabilidades em modelos de ponta. O trabalho envolve criar casos de ataque reproduzíveis, conjuntos de dados de avaliação e relatórios de risco para projetos de treinamento de IA com dados humanos.
Descrição
- Testar modelos e agentes de IA conversacional com jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Criar anotações de dados humanos documentando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Usar taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes
- Preparar relatórios reproduzíveis voltados para clientes, conjuntos de dados e casos de ataque
- Avaliar respostas de IA sobre temas sensíveis, incluindo vieses, desinformação e comportamentos nocivos
- Investigar sistemas de IA em busca de fragilidades que os testes automatizados possam não detectar
- Ampliar a cobertura das avaliações para ajudar a limitar problemas inesperados em produção
- Apoiar o treinamento e o aprimoramento de modelos de ponta para o laboratório de IA da Mercor e seus clientes empresariais
Requisitos
- Fluência em nível nativo em inglês e canarês
- Bom julgamento para avaliar se as respostas de IA são precisas, completas e apropriadas
- Comunicação clara para explicar o raciocínio a públicos técnicos e não técnicos
- Atenção meticulosa a erros sutis, inconsistências e omissões
- Consistência na aplicação de taxonomias, benchmarks, playbooks, diretrizes e padrões de qualidade
- Flexibilidade para trabalhar em diferentes projetos, formatos de tarefas e clientes
- Capacidade de atuar como prestador de serviços independente
- Não pode exigir patrocínio H-1B ou STEM OPT; essas modalidades de patrocínio não são oferecidas
- Experiência relevante em aprendizado de máquina adversarial, cibersegurança, riscos sociotécnicos, testes de IA conversacional, psicologia, atuação ou redação adversarial não convencional será considerada um diferencial
Benefícios
- Trabalhar totalmente de forma remota com flexibilidade para definir seu próprio horário
- Receber pagamentos semanais por Stripe ou Wise pelos serviços prestados
- Escolher se deseja participar de projetos que envolvam conteúdo mais sensível
- Acessar orientações claras e recursos de bem-estar para tarefas com conteúdo sensível
- Receber uma remuneração competitiva
- Desenvolver experiência prática em red teaming de IA orientado por dados humanos
- Colaborar com pesquisadores renomados
- Solicitar adaptações razoáveis quando necessário
- Receber pagamentos de indicação de até US$ 90 por cada indicação bem-sucedida