51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA: inglês e assamês (contrato remoto)
Teste sistemas de IA conversacional em busca de jailbreaks, vieses, riscos de injeção de prompts e outras vulnerabilidades. Crie artefatos claros e reproduzíveis de dados humanos que ajudem a tornar a IA avançada mais segura e confiável.
Descrição
- Teste modelos e agentes de IA conversacional em busca de jailbreaks, injeções de prompts, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Crie anotações de dados humanos documentando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Use taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes
- Entregue relatórios, conjuntos de dados e cenários de ataque reproduzíveis para clientes
- Encontre pontos fracos que os testes automatizados podem não identificar
- Amplie a cobertura das avaliações para ajudar a minimizar problemas inesperados em produção
- Avalie as respostas de IA sobre assuntos sensíveis de acordo com as diretrizes fornecidas
Requisitos
- Fluência nativa em inglês e assamês
- Bom discernimento ao avaliar linguagem e conteúdo, incluindo se as respostas de IA são precisas, completas e apropriadas
- Atenção rigorosa a erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes e aos padrões de qualidade
- Capacidade de comunicar o raciocínio com clareza a públicos técnicos e não técnicos
- Flexibilidade para trabalhar em diferentes projetos, formatos de tarefas e clientes
- Atuação como contratado independente
- Conforto para trabalhar com assuntos sensíveis, como viés, desinformação e comportamentos prejudiciais; a participação em projetos de maior sensibilidade é opcional
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Trabalho totalmente remoto com horário flexível definido por você
- Pagamentos semanais via Stripe ou Wise
- Oportunidade de desenvolver experiência em red teaming de IA baseado em dados humanos
- Contribuição prática para sistemas de IA mais robustos, seguros e confiáveis
- Oportunidades de colaboração com pesquisadores renomados
- Adaptações razoáveis disponíveis mediante solicitação
- Incentivo por indicação de até US$ 90 para cada indicação bem-sucedida