51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista remoto em segurança de IA (inglês e marata) na Mercor
Teste modelos de IA conversacional para identificar vulnerabilidades por meio de testes de red team em inglês e marata. Crie conjuntos de dados reproduzíveis, casos de ataque e relatórios para projetos de segurança de IA baseados em dados humanos.
Descrição
- Realizar testes de red team em modelos e agentes de IA conversacional usando jailbreaks, injeção de prompts, cenários de uso indevido, exploração de vieses e manipulação em múltiplas interações
- Criar dados humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Usar taxonomias, benchmarks e playbooks para manter avaliações consistentes
- Desenvolver relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Avaliar resultados de IA envolvendo assuntos sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais
- Identificar fragilidades que os testes automatizados podem não detectar
- Ampliar a cobertura das avaliações para ajudar a prevenir problemas inesperados em produção
- Apoiar os clientes na melhoria da segurança, robustez e confiabilidade de seus sistemas de IA
Requisitos
- É necessário ter domínio fluente ou nativo de inglês e marata
- Bom discernimento sobre linguagem e conteúdo, incluindo a capacidade de avaliar se as respostas da IA são precisas, completas e apropriadas, além de explicar o raciocínio
- Atenção excepcional a erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes estabelecidas e aos padrões de qualidade
- Comunicação clara do raciocínio para públicos técnicos e não técnicos
- Capacidade de se adaptar a diferentes projetos, formatos de tarefas e clientes
- É necessário trabalhar como contratado independente
- Candidatos com H1-B e STEM OPT não são aceitos
- Será considerado um diferencial ter experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompts, ataques de RLHF ou DPO, ou extração de modelos
- Será considerado um diferencial ter experiência em cibersegurança com testes de invasão, desenvolvimento de exploits ou engenharia reversa
- Será considerado um diferencial ter experiência em riscos sociotécnicos envolvendo investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional
- Será considerado um diferencial ter experiência em psicologia, atuação ou escrita que favoreça o pensamento adversarial não convencional
Benefícios
- Trabalho totalmente remoto
- Horário flexível, com possibilidade de escolher as horas de trabalho
- Pagamentos semanais via Stripe ou Wise, com base nos serviços prestados
- A duração do projeto pode ser estendida, reduzida ou encerrada antecipadamente conforme as necessidades do negócio e o desempenho
- Recursos de bem-estar e orientações claras para projetos que envolvam conteúdo de maior sensibilidade
- Adaptações razoáveis disponíveis mediante solicitação
- Programa de indicação que oferece até US$ 90 por indicação bem-sucedida, sem limite de indicações
- Oportunidade de colaborar com pesquisadores renomados
- Experiência conduzindo red teaming de IA baseado em dados humanos na vanguarda da segurança de IA