Mercor
Mercor
51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.

Especialista em segurança de IA – inglês e marata (remoto)

A Mercor busca especialistas em segurança de IA que falem inglês e marata para realizar testes red team em modelos e agentes conversacionais. O trabalho envolve identificar vulnerabilidades, avaliar respostas sensíveis e criar dados de segurança reproduzíveis para laboratórios de IA e clientes.

Descrição

  • Realizar testes red team em modelos e agentes de IA conversacional usando jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em múltiplos turnos
  • Criar dados de avaliação humana anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
  • Usar taxonomias, benchmarks e playbooks estabelecidos para apoiar avaliações consistentes
  • Desenvolver relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
  • Avaliar resultados de IA relacionados a vieses, desinformação, comportamento prejudicial e outros temas sensíveis
  • Identificar vulnerabilidades que os testes automatizados podem não detectar
  • Ampliar a cobertura das avaliações para ajudar a minimizar problemas inesperados em produção
  • Apoiar os clientes na melhoria da segurança, robustez e confiabilidade de seus sistemas de IA

Requisitos

  • Fluência nativa em inglês e marata
  • Bom discernimento para avaliar linguagem e conteúdo, incluindo se as respostas de IA são precisas, completas e apropriadas
  • Capacidade de detectar erros sutis, inconsistências e omissões
  • Capacidade de seguir diretrizes e padrões de qualidade de forma consistente
  • Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos
  • Adaptabilidade a diferentes projetos, tipos de tarefas e clientes
  • Capacidade de trabalhar como contratado independente
  • Não exigir suporte para H-1B ou STEM OPT
  • Será considerado um diferencial ter experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompt, ataques de RLHF ou DPO, ou extração de modelos
  • Será considerado um diferencial ter experiência em cibersegurança com testes de penetração, desenvolvimento de exploits ou engenharia reversa
  • Será considerado um diferencial ter experiência em riscos sociotécnicos com investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional
  • Será considerado um diferencial ter experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional

Benefícios

  • Trabalho totalmente remoto, que pode ser realizado no seu próprio horário
  • Pagamentos semanais por Stripe ou Wise
  • Participação opcional em projetos de maior sensibilidade
  • Diretrizes claras e recursos de bem-estar para trabalhos que envolvem conteúdo sensível
  • Remuneração competitiva
  • Oportunidade de colaborar com pesquisadores renomados
  • Pagamentos de até US$ 90 por indicação bem-sucedida, sujeitos a limites

Vagas relacionadas

Device Insight

Engenheiro(a) sênior de dados – Databricks, híbrido em Munique

Device Insight

Crie produtos de dados governados no Databricks para a Device Insight, empresa de software para IoT industrial e fábricas inteligentes. Desenvolva pipelines confiáveis, automação de implantações e análise de autosserviço.

Abrir
Capital One

Engenheiro(a) sênior de dados, Python e AWS

Capital One

Crie plataformas e pipelines de dados seguros e escaláveis com Python e AWS na Capital One. Projete soluções em nuvem e arquiteturas de dados que atendem milhões de clientes.

Abrir
AutoNation

Administrador sênior de plataformas de dados na AutoNation (remoto nos EUA)

AutoNation

Lidere a confiabilidade, a segurança, a automação e a modernização das plataformas de banco de dados da AutoNation. Apoie a estratégia de dados em nuvem, analytics, replicação e recuperação de desastres da varejista automotiva.

Abrir