51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA: inglês e bengali (contrato remoto)
A Mercor busca um especialista em red teaming de segurança de IA que fale inglês e bengali para identificar vulnerabilidades em sistemas de IA conversacional. A função envolve produzir casos de ataque reproduzíveis e dados gerados por humanos para laboratórios de IA que treinam modelos de ponta.
Descrição
- Testar modelos e agentes de IA conversacional usando jailbreaks, injeção de prompt, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Criar dados gerados por humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Usar taxonomias, benchmarks e playbooks estabelecidos para manter as avaliações consistentes
- Entregar relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Avaliar respostas de IA que envolvam vieses, desinformação, comportamentos prejudiciais e outros assuntos sensíveis
- Ampliar a cobertura das avaliações e contribuir para sistemas de IA mais robustos para os clientes
Requisitos
- Proficiência nativa ou fluente em inglês e bengali
- Bom discernimento ao avaliar linguagem e conteúdo, incluindo a capacidade de determinar se as respostas da IA são precisas, completas e apropriadas, e explicar a avaliação
- Grande atenção a erros sutis, inconsistências e omissões
- Adesão confiável às diretrizes de teste e aos padrões de qualidade
- Comunicação clara do raciocínio para públicos técnicos e não técnicos
- Disposição para se adaptar a diferentes projetos, formatos de tarefas e clientes
- Capacidade de trabalhar como contratado independente
- Não precisar de patrocínio de H-1B ou STEM OPT
- Experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompt, ataques de RLHF/DPO ou extração de modelos é desejável
- Experiência em cibersegurança com testes de invasão, desenvolvimento de exploits ou engenharia reversa é desejável
- Experiência em riscos sociotécnicos, como investigação de assédio ou desinformação, análise de abuso ou testes de IA conversacional é desejável
- Experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional é desejável
Benefícios
- Trabalhar totalmente de forma remota
- Definir um horário flexível e trabalhar de acordo com a própria disponibilidade
- Receber pagamentos semanais por Stripe ou Wise
- Escolher se deseja participar de projetos de maior sensibilidade
- Acessar orientações claras e recursos de bem-estar para tarefas com conteúdo sensível
- Receber uma remuneração competitiva
- Construir experiência em red teaming de IA baseado em dados gerados por humanos
- Colaborar com pesquisadores líderes em IA
- Receber pagamentos de indicação de até US$ 90 por cada indicação bem-sucedida