51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA: inglês e gujarati (contrato remoto)
Teste modelos e agentes de IA de ponta em busca de vulnerabilidades de segurança por meio de conversas adversariais, incluindo jailbreaks, injeção de prompts, uso indevido, vieses e manipulação. Crie conjuntos de dados anotados, cenários de ataque e relatórios de segurança reproduzíveis em inglês e gujarati.
Descrição
- Teste adversarialmente modelos e agentes de IA conversacional em busca de jailbreaks, injeção de prompts, uso indevido, exploração de vieses e manipulação em várias interações
- Crie dados gerados por pessoas anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Use taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes
- Desenvolva relatórios, conjuntos de dados e cenários de ataque reproduzíveis
- Avalie resultados de IA que envolvam assuntos sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais
- Identifique fragilidades que os métodos automatizados de avaliação não conseguem detectar
- Amplie a cobertura das avaliações para ajudar a limitar problemas inesperados em produção
- Aprimore os sistemas de IA dos clientes por meio de testes adversariais estruturados
Requisitos
- Fluência em nível nativo em inglês e gujarati
- Bom discernimento ao avaliar linguagem e conteúdo
- Capacidade de determinar se as respostas da IA são precisas, completas e apropriadas, além de explicar a avaliação
- Atenção cuidadosa a erros sutis, inconsistências e omissões
- Uso consistente de taxonomias, benchmarks, playbooks, diretrizes e padrões de qualidade
- Capacidade de comunicar o raciocínio com clareza a públicos técnicos e não técnicos
- Flexibilidade para trabalhar em diferentes projetos, formatos de tarefas e clientes
- Experiência em aprendizado de máquina adversarial, cibersegurança, riscos sociotécnicos ou sondagem criativa de IA é desejável
- É necessário trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Posição totalmente remota
- Horário flexível, com possibilidade de escolher suas próprias horas de trabalho
- Pagamentos semanais por Stripe ou Wise
- Os projetos podem ser estendidos, reduzidos ou encerrados antecipadamente conforme as necessidades do negócio e o desempenho
- Participação opcional em projetos que envolvam conteúdo de maior sensibilidade
- Orientações definidas e recursos de bem-estar para atividades com conteúdo sensível
- Adaptações razoáveis disponíveis mediante solicitação
- Oportunidade de desenvolver experiência em red teaming de IA orientado por dados humanos
- Trabalho conjunto com pesquisadores renomados
- Pagamentos de indicação de até US$ 90 por indicação bem-sucedida, sujeitos aos limites aplicáveis