51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA - Inglês e punjabi
Trabalho remoto por contrato para especialistas em segurança de IA fluentes em inglês e punjabi, apoiando os projetos de red teaming de IA conversacional da Mercor. Teste jailbreaks, injeções de prompt, riscos de conteúdo nocivo e vulnerabilidades de modelos enquanto documenta descobertas reproduzíveis.
Descrição
- Realizar testes adversariais de modelos e agentes de IA conversacional usando jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em múltiplos turnos
- Criar dados gerados por humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Aplicar taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes
- Preparar relatórios, conjuntos de dados e casos de ataque reproduzíveis para clientes
- Avaliar as saídas de IA quanto a vieses, desinformação, comportamento nocivo e outros riscos relacionados a conteúdo sensível
- Identificar fragilidades que avaliações automatizadas podem não detectar
- Ampliar a cobertura das avaliações para ajudar a limitar problemas inesperados em produção
- Aprimorar os sistemas de IA dos clientes por meio de testes adversariais estruturados
Requisitos
- Fluência nativa em inglês e punjabi
- Bom discernimento ao avaliar linguagem e conteúdo
- Capacidade de determinar se as respostas de IA são precisas, completas e apropriadas, e explicar a avaliação
- Grande atenção a erros sutis, inconsistências e omissões
- Adesão consistente às diretrizes e aos padrões de qualidade
- Comunicação clara do raciocínio para públicos técnicos e não técnicos
- Capacidade de se adaptar a diferentes projetos, formatos de tarefas e clientes
- Status de contratado independente
- Não ser candidato H-1B ou STEM OPT
- Experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompt, ataques de RLHF/DPO ou extração de modelos é desejável
- Experiência em cibersegurança com testes de penetração, desenvolvimento de exploits ou engenharia reversa é desejável
- Experiência em riscos sociotécnicos, incluindo investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional é desejável
- Experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional é desejável
Benefícios
- Trabalho totalmente remoto
- Horário flexível, com a possibilidade de trabalhar de acordo com sua própria agenda
- Pagamentos semanais por Stripe ou Wise
- Os projetos podem ser estendidos, encurtados ou encerrados antecipadamente conforme as necessidades do negócio e o desempenho
- Participação opcional em projetos de maior sensibilidade
- Diretrizes de conteúdo e recursos de bem-estar fornecidos
- Remuneração competitiva
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de indicação de até US$ 90 por indicação bem-sucedida, sujeitos aos limites de indicação