51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em testes de segurança de IA (inglês e telugu) - contrato remoto
Teste modelos de IA conversacional em busca de jailbreaks, injeção de prompts, uso indevido, vieses e outras falhas de segurança. Documente vulnerabilidades reproduzíveis e dados de avaliação para clientes de pesquisa em IA.
Descrição
- Teste de forma adversarial modelos e agentes de IA conversacional em busca de jailbreaks, injeção de prompts, uso indevido, exploração de vieses e manipulação em várias interações
- Anote falhas de teste, categorize vulnerabilidades e identifique riscos sistêmicos
- Aplique taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes
- Crie relatórios, conjuntos de dados e cenários de ataque reproduzíveis para clientes
- Avalie respostas de IA sobre assuntos sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais
- Encontre fragilidades que os métodos de avaliação automatizada não conseguem detectar
- Amplie a cobertura das avaliações para ajudar a prevenir problemas inesperados em produção
- Aprimore os sistemas de IA dos clientes por meio de testes adversariais repetíveis
Requisitos
- Fluência nativa em inglês e telugu
- Bom discernimento para avaliar linguagem e conteúdo quanto à precisão, completude e adequação
- Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos
- Atenção cuidadosa a erros sutis, inconsistências e omissões
- Capacidade de seguir diretrizes e padrões de qualidade de forma consistente
- Flexibilidade para atuar em diferentes projetos, formatos de tarefas e clientes
- Atuação como contratado independente
- Capacidade de trabalhar sem usar informações confidenciais ou proprietárias de qualquer empregador, cliente ou instituição
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Trabalho totalmente remoto, que pode ser realizado em um horário autogerenciado
- Pagamentos semanais via Stripe ou Wise pelos serviços prestados
- Participação opcional em projetos que envolvam assuntos mais sensíveis
- Diretrizes e recursos de bem-estar para trabalhos que envolvam conteúdo sensível
- Experiência na construção de conhecimentos especializados em red teaming de IA com base em dados humanos
- Oportunidade de ajudar a tornar os sistemas de IA mais seguros, robustos e confiáveis
- Oportunidades de colaboração com pesquisadores renomados
- Pagamentos de indicação de até US$ 90 por indicação bem-sucedida, sujeitos aos limites aplicáveis