51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA – Inglês e marata (contrato remoto)
A Mercor busca um especialista em segurança de IA fluente em inglês e marata para realizar testes adversariais em sistemas de IA conversacional. A função contratual é focada em testes de ataque, análise de vulnerabilidades e relatórios claros para projetos de dados humanos e de IA de fronteira.
Descrição
- Teste modelos e agentes de IA conversacional contra jailbreaks, injeção de prompts, cenários de uso indevido, exploração de vieses e manipulação em várias interações
- Crie recursos de dados humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos
- Use taxonomias, benchmarks e playbooks estabelecidos para garantir avaliações consistentes
- Entregue casos de ataque reproduzíveis, conjuntos de dados e relatórios voltados para clientes
- Avalie respostas de IA sobre assuntos sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais
- Encontre pontos fracos que os métodos automatizados de avaliação podem não detectar
- Amplie a cobertura dos testes para ajudar a evitar problemas inesperados em produção
- Ajude os clientes a melhorar a segurança, a robustez e a confiabilidade de seus sistemas de IA
- Trabalhe com pesquisadores renomados em iniciativas que treinam e desenvolvem modelos de IA de fronteira
Requisitos
- Proficiência nativa ou fluente em inglês e marata
- Bom discernimento ao avaliar linguagem e conteúdo
- Capacidade de determinar se as respostas de IA são precisas, completas e adequadas, com explicações claras
- Atenção cuidadosa a erros sutis, inconsistências e omissões
- Adesão confiável às diretrizes de teste e aos requisitos de qualidade
- Comunicação clara do raciocínio para públicos técnicos e não técnicos
- Flexibilidade para trabalhar em diferentes projetos, tarefas e com diversos clientes
- Capacidade de trabalhar como contratado independente
- Não pode exigir patrocínio H-1B ou STEM OPT
- Diferencial: experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, injeção de prompts, ataques de RLHF/DPO ou extração de modelos
- Diferencial: experiência em cibersegurança com testes de intrusão, desenvolvimento de exploits ou engenharia reversa
- Diferencial: experiência em riscos sociotécnicos, como investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional
- Diferencial: experiência em psicologia, atuação ou escrita que favoreça um pensamento adversarial não convencional
Benefícios
- Trabalho contratual totalmente remoto
- Horário flexível, com possibilidade de definir suas próprias horas de trabalho
- Pagamentos semanais por Stripe ou Wise
- A duração do projeto pode mudar ou terminar antes, conforme as necessidades do negócio e o desempenho
- Participação opcional em projetos que envolvam conteúdo mais sensível
- Orientação definida e recursos de bem-estar para tarefas com conteúdo sensível
- Adaptações razoáveis disponíveis mediante solicitação
- Pagamentos de até US$ 90 por indicação bem-sucedida