51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista remoto em segurança de IA (inglês e gujarati) – Contrato
A Mercor busca um especialista em segurança de IA, contratado e fluente em inglês e gujarati, para realizar testes adversariais em modelos de IA de fronteira. O trabalho envolve testar vulnerabilidades, avaliar falhas e criar conjuntos de dados e casos de ataque reproduzíveis.
Descrição
- Testar modelos e agentes de IA conversacional em busca de jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em múltiplos turnos
- Criar dados gerados por humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Usar taxonomias, benchmarks e playbooks estabelecidos para realizar avaliações consistentes
- Desenvolver relatórios reproduzíveis para clientes, conjuntos de dados e casos de ataque
- Avaliar as saídas da IA quanto a questões sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais
- Encontrar fraquezas que os testes automatizados não detectam
- Ampliar a cobertura das avaliações para ajudar a evitar problemas inesperados em produção
- Contribuir para projetos que treinam e aprimoram sistemas de IA de fronteira
Requisitos
- Proficiência nativa ou fluente em inglês e gujarati
- Bom discernimento ao avaliar linguagem e conteúdo quanto à precisão, completude e adequação
- Capacidade de detectar erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes estabelecidas e aos padrões de qualidade
- Comunicação clara do raciocínio para públicos técnicos e não técnicos
- Flexibilidade para atuar em diferentes projetos, formatos de tarefas e necessidades de clientes
- Atuação como contratado independente
- Candidatos com H-1B e STEM OPT não são elegíveis
- Preferencial: experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompt, ataques de RLHF/DPO ou extração de modelos
- Preferencial: experiência em cibersegurança com testes de invasão, desenvolvimento de exploits ou engenharia reversa
- Preferencial: experiência em riscos sociotécnicos envolvendo investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional
- Preferencial: experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional
Benefícios
- Trabalhar remotamente dos Estados Unidos
- Escolher um horário flexível que se adapte à sua disponibilidade
- Receber pagamentos semanais por Stripe ou Wise
- Optar por participar ou não de projetos de maior sensibilidade
- Acessar orientações claras e recursos de bem-estar para tarefas com conteúdo sensível
- Remuneração por hora competitiva
- Adaptações razoáveis disponíveis mediante solicitação
- Oportunidade de ganhar até US$ 90 por indicação bem-sucedida, sujeita aos limites aplicáveis