51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista remoto em segurança de IA (inglês e canarês)
Realize testes adversariais nos modelos de IA de fronteira da Mercor usando entradas em inglês e canarês para identificar vulnerabilidades. Crie dados de segurança reproduzíveis, casos de ataque e relatórios para clientes de IA.
Descrição
- Teste modelos e agentes de IA conversacional com jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias etapas
- Crie dados gerados por pessoas anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Use taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes
- Desenvolva relatórios, conjuntos de dados e casos de ataque reproduzíveis que os clientes possam usar
- Avalie resultados de IA sobre temas sensíveis, incluindo viés, desinformação e comportamento prejudicial
- Encontre fragilidades que avaliações automatizadas podem não identificar
- Amplie a cobertura das avaliações para ajudar a prevenir problemas inesperados em produção
- Contribua para projetos que treinam e aprimoram sistemas de IA para o laboratório de IA da Mercor e seus clientes corporativos
Requisitos
- Proficiência nativa ou fluente em inglês e canarês
- Bom discernimento ao avaliar linguagem e conteúdo, incluindo a precisão, a completude e a adequação das respostas de IA
- Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos
- Atenção cuidadosa a erros sutis, inconsistências e omissões
- Capacidade de aplicar de forma consistente taxonomias, benchmarks, playbooks, diretrizes e padrões de qualidade
- Flexibilidade para trabalhar em diferentes projetos, formatos de tarefas e clientes
- É necessário trabalhar como contratado independente
- Os candidatos não podem estar buscando o status H-1B ou STEM OPT
- Diferencial: experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompt, ataques de RLHF ou DPO, ou extração de modelos
- Diferencial: experiência em segurança cibernética com testes de invasão, desenvolvimento de exploits ou engenharia reversa
- Diferencial: experiência em riscos sociotécnicos, como investigação de assédio ou desinformação, análise de abuso ou testes de IA conversacional
- Diferencial: experiência em psicologia, atuação ou escrita que contribua para um pensamento adversarial não convencional
Benefícios
- Trabalho contratado totalmente remoto com flexibilidade de horários
- Pagamento semanal por Stripe ou Wise com base nos serviços prestados
- Oportunidade de desenvolver experiência em red teaming de IA orientado por dados humanos e focado na segurança de modelos de fronteira
- Contribuição significativa para tornar os sistemas de IA mais robustos, seguros e confiáveis
- Recursos de bem-estar e orientações definidas para projetos que envolvam conteúdo de maior sensibilidade
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de indicação de até US$ 90 por indicação bem-sucedida, sujeitos às restrições aplicáveis