51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em testes adversariais de segurança de modelos de IA
Investigue vulnerabilidades de segurança nos modelos de IA de ponta da Mercor por meio de testes adversariais. Identifique falhas e ajude a aprimorar o alinhamento dos modelos.
Descrição
- Crie prompts adversariais para testar modelos de IA de ponta.
- Identifique jailbreaks, comportamentos inseguros, alucinações e violações de políticas.
- Teste a resiliência dos modelos diante de desinformação, cibersegurança, biossegurança, fraude, conteúdo político e outras áreas sensíveis.
- Registre vulnerabilidades e ajude a produzir benchmarks de segurança e relatórios de red teaming.
- Trabalhe em parceria com pesquisadores de IA para fortalecer o alinhamento, a resiliência e a segurança dos modelos.
- Ajude a proteger e aprimorar a próxima geração de modelos de IA de ponta.
- Contribua para projetos de treinamento e aprimoramento de sistemas de IA.
Requisitos
- Bacharelado ou nível superior em ciência da computação, cibersegurança, jornalismo, comunicação, psicologia, biologia, química, políticas públicas ou área relacionada
- Pelo menos cinco anos de experiência profissional em segurança de IA, red teaming de IA, confiança e segurança, cibersegurança, jornalismo investigativo, ciências da vida ou área relacionada
- Forte capacidade de raciocínio analítico, criação de prompts e redação
- Experiência na criação de prompts adversariais ou na avaliação de sistemas de IA de ponta
- Experiência em red teaming de IA, RLHF, ajuste fino supervisionado, alinhamento de IA ou confiança e segurança é um diferencial
- Familiaridade com testes de jailbreak, engenharia de prompts ou métodos de avaliação adversarial é um diferencial
- Especialização em pelo menos um domínio sensível, como cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica, é um diferencial
- Não pode precisar de patrocínio para visto H-1B ou STEM OPT; a Mercor não pode oferecer patrocínio a candidatos que precisem de qualquer uma dessas modalidades
Benefícios
- Trabalho totalmente remoto com horário flexível
- Pagamentos semanais via Stripe ou Wise pelos serviços prestados
- A duração do projeto pode mudar ou terminar antecipadamente conforme as necessidades do projeto e o desempenho
- Trabalho em conjunto com pesquisadores de IA e equipes de segurança de destaque
- Ajude a definir como os sistemas de IA lidam com desafios complexos de segurança no mundo real
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de indicação de até US$ 340 por indicação bem-sucedida, sujeitos a limites