Mercor
Mercor
51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.

Especialista em testes de segurança de IA

A Mercor busca uma pessoa especialista em segurança de IA para testar modelos de ponta e identificar jailbreaks, alucinações e falhas de políticas. A empresa trabalha com laboratórios de IA para treinar e aprimorar sistemas de inteligência artificial.

Descrição

  • Criar prompts adversariais para testar modelos de IA de ponta.
  • Identificar jailbreaks, comportamentos inseguros, alucinações e falhas de políticas.
  • Avaliar a robustez dos modelos em desinformação, cibersegurança, biossegurança, fraude, conteúdo político e outras áreas sensíveis.
  • Registrar vulnerabilidades e ajudar a produzir benchmarks de segurança e relatórios de red teaming.
  • Trabalhar com pesquisadores de IA para fortalecer o alinhamento, a robustez e a segurança dos modelos.
  • Realizar projetos como prestador(a) de serviços independente conforme as necessidades do projeto e o desempenho.

Requisitos

  • Bacharelado ou grau superior em ciência da computação, cibersegurança, jornalismo, comunicação, psicologia, biologia, química, políticas públicas ou área relacionada.
  • Pelo menos cinco anos de experiência profissional em segurança de IA, red teaming de IA, confiança e segurança, cibersegurança, jornalismo investigativo, ciências da vida ou área relacionada.
  • Forte capacidade de raciocínio analítico e habilidades de criação de prompts e redação.
  • Experiência na criação de prompts adversariais ou na avaliação de sistemas de IA de ponta.
  • Será considerado um diferencial ter experiência com red teaming de IA, RLHF, SFT, alinhamento de IA ou confiança e segurança.
  • Será considerado um diferencial conhecer testes de jailbreak, engenharia de prompts ou métodos de avaliação adversarial.
  • Será considerado um diferencial ter especialização em uma ou mais áreas sensíveis, incluindo cibersegurança, biossegurança, conteúdo político, desinformação ou segurança científica.
  • É necessário poder trabalhar como prestador(a) de serviços independente.
  • Não há suporte para candidatos com visto H-1B ou participantes do STEM OPT.

Benefícios

  • Trabalho totalmente remoto.
  • Flexibilidade para definir o próprio horário.
  • Pagamentos semanais pelos serviços prestados via Stripe ou Wise.
  • Trabalho em conjunto com pesquisadores de IA e equipes de segurança de destaque.
  • Contribuição para a segurança e o alinhamento de IA de ponta.
  • Pagamentos por indicação de até US$ 340 por indicação bem-sucedida, sujeitos a limites.
  • Adaptações razoáveis disponíveis mediante solicitação.

Vagas relacionadas

Thomson Reuters

Diretor(a) de Marketing para Austrália e Nova Zelândia

Thomson Reuters

Lidere a estratégia de marketing, os programas de campo e o crescimento do pipeline da Thomson Reuters na Austrália e na Nova Zelândia, nas áreas de tecnologia jurídica, tributária e de compliance. Gerencie equipes regionais, campanhas e eventos, com foco em marketing habilitado por IA.

Abrir