51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista remoto em segurança de IA (inglês e telugo)
A Mercor busca um especialista em red teaming de segurança de IA, fluente em inglês e telugo, para identificar vulnerabilidades em modelos de IA de ponta. O trabalho inclui criar casos de teste adversariais, conjuntos de dados estruturados e relatórios reproduzíveis.
Descrição
- Testar modelos e agentes de IA conversacional com jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Documentar falhas, categorizar vulnerabilidades e identificar riscos sistêmicos
- Aplicar taxonomias, benchmarks e playbooks estabelecidos para avaliações consistentes
- Criar relatórios reproduzíveis, conjuntos de dados e casos de ataque adversariais
- Avaliar as saídas da IA quanto a vieses, desinformação, comportamentos prejudiciais e outros riscos relacionados a conteúdo sensível
- Ampliar a cobertura das avaliações para encontrar vulnerabilidades que os testes automatizados podem não detectar
- Contribuir para projetos que treinam e aprimoram sistemas de IA de ponta
Requisitos
- Fluência em nível nativo em inglês e telugo
- Bom discernimento para avaliar se as respostas da IA são precisas, completas e apropriadas
- Capacidade de detectar erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes e aos padrões de qualidade
- Capacidade de comunicar o raciocínio com clareza a públicos técnicos e não técnicos
- Flexibilidade para atuar em diferentes projetos, formatos de tarefas e clientes
- Disponibilidade para trabalhar como contratado independente
- Não exigir suporte para H-1B ou STEM OPT
- Experiência em aprendizado de máquina adversarial, cibersegurança, risco sociotécnico ou investigação criativa é útil
Benefícios
- Trabalho totalmente remoto
- Escolha seu próprio horário de trabalho
- Receba pagamentos semanais pelo Stripe ou Wise
- A duração do projeto pode mudar ou terminar antecipadamente conforme as necessidades do negócio e o desempenho
- Remuneração por hora competitiva
- Desenvolva experiência em red teaming de IA orientado por dados humanos
- Ajude a tornar os sistemas de IA mais robustos, seguros e confiáveis
- Adaptações razoáveis estão disponíveis mediante solicitação
- Ganhe até US$ 90 por cada indicação bem-sucedida