51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA (inglês e gujarati) – Contrato remoto
Conduza avaliações de red team de modelos e agentes de IA conversacional para a Mercor, parceira de um laboratório de IA focado no treinamento de sistemas de fronteira. Crie dados de vulnerabilidades, cenários de ataque e relatórios de segurança reproduzíveis.
Descrição
- Teste modelos e agentes de IA conversacional usando jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Crie dados rotulados por pessoas anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Use taxonomias, benchmarks e playbooks estabelecidos para garantir avaliações consistentes
- Desenvolva relatórios, conjuntos de dados e cenários de ataque reproduzíveis
- Avalie respostas de IA que envolvam vieses, desinformação, comportamento prejudicial e outros temas sensíveis
- Identifique pontos fracos que os testes automatizados podem não detectar
- Amplie a cobertura das avaliações para ajudar a limitar problemas inesperados em produção
- Melhore os sistemas de IA dos clientes com artefatos de avaliação claros e reproduzíveis
Requisitos
- Proficiência nativa ou fluente em inglês e gujarati
- Bom discernimento ao avaliar linguagem e conteúdo
- Capacidade de determinar se as respostas da IA são precisas, completas e apropriadas, e de explicar a avaliação
- Atenção cuidadosa a erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes e aos requisitos de qualidade
- Capacidade de comunicar o raciocínio com clareza a públicos técnicos e não técnicos
- Flexibilidade para atuar em diferentes projetos, formatos de tarefas e clientes
- Experiência preferencial em aprendizado de máquina adversarial, cibersegurança, risco sociotécnico ou investigação criativa
- Disponibilidade para trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Trabalho totalmente remoto
- Escolha seu próprio horário de trabalho
- Receba pagamentos semanais via Stripe ou Wise
- Remuneração por hora competitiva
- Opção de participar de projetos que envolvam conteúdo de maior sensibilidade
- Acesso a orientações claras e recursos de bem-estar para trabalhos com conteúdo sensível
- Adaptações razoáveis disponíveis mediante solicitação
- Ganhe pagamentos por indicação de até US$ 90 por cada indicação bem-sucedida