51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista remoto em segurança de IA (inglês e tâmil)
A Mercor busca um especialista em segurança de IA fluente em inglês e tâmil para realizar red teaming em modelos e agentes conversacionais. A função contratual se concentra em identificar vulnerabilidades, avaliar resultados sensíveis e criar dados de segurança reproduzíveis para o treinamento de IA de ponta.
Descrição
- Realizar red teaming em modelos e agentes de IA conversacionais por meio de jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Rotular falhas, categorizar vulnerabilidades e identificar riscos sistêmicos
- Aplicar de forma consistente taxonomias, benchmarks e roteiros de testes estabelecidos
- Criar relatórios, conjuntos de dados e casos de ataque reproduzíveis
- Avaliar resultados de IA que envolvam vieses, desinformação, comportamentos prejudiciais e outros temas sensíveis
- Ampliar a cobertura das avaliações encontrando fragilidades que os testes automatizados podem deixar passar
- Trabalhar com equipes de projeto que desenvolvem e aprimoram sistemas de IA de ponta
Requisitos
- Proficiência nativa ou fluente em inglês e tâmil
- Bom discernimento ao avaliar linguagem e conteúdo
- Capacidade de determinar se as respostas da IA são precisas, completas e adequadas
- Atenção apurada a erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes e aos padrões de qualidade
- Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos
- Flexibilidade para atuar em diferentes projetos, formatos de tarefa e clientes
- Disponibilidade para trabalhar como contratado independente
- Não exigir patrocínio de H-1B ou STEM OPT
- Experiência em aprendizado de máquina adversarial, cibersegurança, risco sociotécnico ou sondagem criativa será considerada um diferencial
Benefícios
- Trabalho totalmente remoto
- Horário flexível
- Pagamentos semanais por Stripe ou Wise
- Remuneração competitiva
- Adquirir experiência em red teaming de IA orientado por dados humanos
- Ajudar a tornar os sistemas de IA mais robustos, seguros e confiáveis
- Colaborar com pesquisadores renomados
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de indicação de até US$ 90 por indicação bem-sucedida