51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA – Inglês e assamês | Contrato remoto com a Mercor
Realize testes adversariais em modelos de IA de fronteira para identificar jailbreaks, vieses, uso indevido e outros riscos de segurança. Crie anotações de dados humanos, classificações de vulnerabilidades e evidências reproduzíveis de ataques para clientes da Mercor.
Descrição
- Teste de forma adversarial modelos e agentes de IA conversacional em busca de jailbreaks, injeção de prompts, uso indevido, exploração de vieses e manipulação em várias interações
- Crie anotações de dados humanos, classifique falhas e identifique riscos sistêmicos
- Use taxonomias, benchmarks e playbooks estabelecidos para padronizar as avaliações
- Entregue relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Avalie respostas de IA que envolvam vieses, desinformação, comportamento prejudicial e outros temas sensíveis
- Encontre fragilidades que os testes automatizados não detectam
- Amplie a cobertura das avaliações para ajudar a prevenir problemas inesperados em produção
- Melhore os sistemas de IA dos clientes por meio de testes adversariais estruturados
Requisitos
- Fluência nativa em inglês e assamês
- Bom discernimento ao avaliar linguagem e conteúdo quanto à precisão, completude e adequação
- Capacidade de detectar erros sutis, inconsistências e omissões
- Adesão consistente a diretrizes e padrões de qualidade
- Comunicação clara do raciocínio para públicos técnicos e não técnicos
- Flexibilidade para atuar em diferentes projetos, formatos de tarefas e necessidades dos clientes
- Diferencial: experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreaks, injeção de prompts, ataques de RLHF ou DPO, ou extração de modelos
- Diferencial: experiência em cibersegurança com testes de penetração, desenvolvimento de exploits ou engenharia reversa
- Diferencial: experiência com riscos sociotécnicos em investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional
- Diferencial: experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional
- É necessário trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são atendidos
Benefícios
- Trabalho totalmente remoto
- Escolha seu próprio horário de trabalho
- Receba pagamentos semanais por meio da Stripe ou da Wise
- Adquira experiência prática em red teaming de IA orientado por dados humanos
- Ajude a tornar os sistemas de IA mais robustos, seguros e confiáveis
- Trabalhe com pesquisadores renomados
- Adaptações razoáveis estão disponíveis mediante solicitação
- Receba pagamentos de indicação de até US$ 90 por indicações bem-sucedidas