51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em testes de segurança de IA - Trabalho remoto nos Estados Unidos
A Mercor busca um especialista remoto em testes de segurança de IA para desafiar modelos de IA de fronteira e descobrir vulnerabilidades em domínios de alto risco. A função contratual apoia laboratórios de IA no desenvolvimento e aprimoramento de sistemas avançados.
Descrição
- Criar prompts adversariais para sondar modelos de IA de fronteira
- Detectar jailbreaks, comportamentos inseguros, alucinações e violações de políticas
- Avaliar a resiliência dos modelos a desinformação, ameaças cibernéticas, riscos de biossegurança, fraude, conteúdo político e outros temas sensíveis
- Registrar as vulnerabilidades descobertas e ajudar a produzir benchmarks de segurança e relatórios de testes de segurança
- Trabalhar com pesquisadores de IA para fortalecer o alinhamento, a robustez e a segurança dos modelos
- Contribuir para projetos que treinam e aprimoram sistemas de IA
Requisitos
- Bacharelado ou grau superior em ciência da computação, cibersegurança, jornalismo, comunicação, psicologia, biologia, química, políticas públicas ou área relacionada
- Pelo menos cinco anos de experiência profissional em segurança de IA, testes de segurança de IA, confiança e segurança, cibersegurança, jornalismo investigativo, ciências da vida ou área relacionada
- Forte capacidade de análise e julgamento, habilidade para criar prompts e excelente comunicação escrita
- Experiência na criação de prompts adversariais ou na avaliação de sistemas de IA de fronteira
- Experiência em testes de segurança de IA, RLHF, SFT, alinhamento de IA ou confiança e segurança é desejável
- Familiaridade com testes de jailbreak, engenharia de prompts ou métodos de avaliação adversarial é desejável
- Experiência em pelo menos um domínio de zona cinzenta, como cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica, é desejável
- Capacidade de trabalhar como contratado independente
- Candidatos com H-1B e STEM OPT não são aceitos
Benefícios
- Trabalho totalmente remoto
- Horário flexível e autogerenciado
- Pagamentos semanais via Stripe ou Wise
- Os projetos podem ser estendidos, encurtados ou encerrados antecipadamente conforme as necessidades do negócio e o desempenho
- Remuneração competitiva
- Colaboração com importantes pesquisadores de IA e equipes de segurança
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de até US$ 340 por indicação bem-sucedida, sujeitos aos limites aplicáveis