51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA (inglês e odia) – Contrato
A Mercor busca um especialista em segurança de IA fluente em inglês e odia para realizar red teaming em modelos de IA conversacional voltados ao treinamento de modelos de fronteira. O trabalho inclui criar anotações de vulnerabilidades, casos de ataque, conjuntos de dados e relatórios de segurança reproduzíveis.
Descrição
- Testar modelos e agentes de IA conversacional usando jailbreaks, injeções de prompts, cenários de uso indevido, exploração de vieses e manipulação em múltiplas interações.
- Documentar falhas, categorizar vulnerabilidades e identificar riscos sistêmicos.
- Usar taxonomias, benchmarks e playbooks estabelecidos para manter as avaliações consistentes.
- Criar relatórios de segurança, conjuntos de dados e casos de ataque reproduzíveis.
- Investigar as saídas dos modelos em busca de vieses, desinformação e comportamentos prejudiciais.
- Apoiar o treinamento e a melhoria de sistemas de IA de fronteira para o laboratório de IA da Mercor e seus clientes empresariais.
Requisitos
- Fluência em nível nativo em inglês e odia.
- Bom discernimento ao avaliar linguagem e conteúdo.
- Capacidade de determinar se as respostas da IA são precisas, completas e apropriadas, além de explicar o raciocínio.
- Grande atenção a erros sutis, inconsistências e omissões.
- Capacidade de seguir diretrizes e padrões de qualidade de forma confiável.
- Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos.
- Flexibilidade para trabalhar em diferentes projetos, formatos de tarefas e com diferentes clientes.
- Disponibilidade para atuar como contratado independente.
- Os candidatos não podem ser candidatos ao H-1B ou ao STEM OPT.
- Experiência ou especialização em aprendizado de máquina adversarial, cibersegurança, riscos sociotécnicos ou sondagem criativa será considerada um diferencial.
Benefícios
- Trabalho totalmente remoto.
- Horário flexível.
- Participação opcional em projetos de maior sensibilidade.
- Diretrizes e recursos de bem-estar para projetos que envolvam conteúdo sensível.
- Pagamentos semanais por Stripe ou Wise.
- Remuneração competitiva.
- Oportunidade de colaborar com pesquisadores de destaque.
- Pagamentos por indicação de até US$ 90 por indicação bem-sucedida.