51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista remoto em segurança de IA – inglês e assamês (contrato)
A Mercor busca um especialista em segurança de IA, em regime remoto e contratado, com fluência em inglês e assamês para realizar red teaming de modelos de fronteira, avaliar vulnerabilidades e criar dados humanos de alta qualidade para projetos de segurança de IA.
Descrição
- Realizar red teaming de modelos e agentes de IA conversacional usando jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias rodadas
- Criar dados rotulados por humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Usar taxonomias, benchmarks e playbooks para garantir avaliações consistentes
- Desenvolver relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Avaliar resultados de IA envolvendo temas sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais
- Identificar vulnerabilidades que os testes automatizados não conseguem detectar
- Ampliar a cobertura das avaliações para ajudar a minimizar problemas inesperados em produção
- Contribuir para projetos que treinam e aprimoram sistemas de IA de fronteira
Requisitos
- Fluência em nível nativo em inglês e assamês
- Bom julgamento ao avaliar a qualidade da linguagem e do conteúdo
- Capacidade de determinar se as respostas de IA são precisas, completas e apropriadas
- Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos
- Atenção excepcional a erros sutis, inconsistências e omissões
- Capacidade de aplicar diretrizes, taxonomias, benchmarks, playbooks e padrões de qualidade de forma consistente
- Flexibilidade para trabalhar em diferentes projetos, formatos de tarefas e necessidades dos clientes
- É necessário trabalhar como contratado independente
- No momento, não é possível oferecer suporte a candidatos com H-1B e STEM OPT
- Áreas de especialização preferenciais incluem aprendizado de máquina adversarial, cibersegurança, risco sociotécnico, avaliação de IA conversacional, psicologia, atuação e escrita
Benefícios
- Trabalhar totalmente de forma remota
- Definir um horário que seja adequado para você
- Receber pagamentos semanais por meio da Stripe ou da Wise
- Adquirir experiência prática em red teaming de IA baseado em dados humanos
- Ajudar a tornar os sistemas de IA mais robustos, seguros e confiáveis
- Colaborar com importantes pesquisadores de IA
- Adaptações razoáveis estão disponíveis mediante solicitação
- Receber pagamentos de indicação de até US$ 90 por indicação bem-sucedida, sujeitos aos limites aplicáveis