51 – 200 Funcionários
As informações disponíveis sobre a Mercor não incluem dados verificados suficientes sobre seus produtos, serviços, clientes, setor ou foco de contratação para permitir uma descrição precisa da empresa. É necessário obter mais material de fonte antes de descrever o negócio ou suas oportunidades.
Especialista em segurança de IA (inglês e tâmil) – Contrato remoto
A Mercor busca um especialista em segurança de IA que fale inglês e tâmil para realizar red teaming em modelos e agentes conversacionais. A função contratual se concentra em identificar vulnerabilidades, gerar dados de avaliação e produzir relatórios de segurança reproduzíveis.
Descrição
- Realizar testes adversariais em modelos e agentes de IA conversacional usando jailbreaks, injeções de prompt, cenários de uso indevido, exploração de vieses e manipulação em vários turnos.
- Criar dados produzidos por humanos anotando falhas, categorizando vulnerabilidades e identificando riscos sistêmicos.
- Usar taxonomias, benchmarks e playbooks estabelecidos para manter avaliações consistentes.
- Entregar relatórios reproduzíveis, conjuntos de dados e casos de ataque para clientes.
- Avaliar resultados de IA envolvendo assuntos sensíveis, incluindo vieses, desinformação e comportamentos prejudiciais.
- Identificar pontos fracos que os métodos automatizados de avaliação podem deixar passar.
- Ampliar a cobertura das avaliações para ajudar a minimizar problemas inesperados em produção.
- Aprimorar os sistemas de IA dos clientes por meio de testes adversariais estruturados.
Requisitos
- Proficiência nativa ou fluente em inglês e tâmil.
- Bom discernimento ao avaliar linguagem e conteúdo.
- Capacidade de determinar se as respostas da IA são precisas, completas e apropriadas, além de explicar o raciocínio.
- Grande atenção a erros sutis, inconsistências e omissões.
- Adesão consistente às diretrizes e aos padrões de qualidade.
- Capacidade de comunicar o raciocínio com clareza para públicos técnicos e não técnicos.
- Adaptabilidade a diferentes projetos, formatos de tarefas e clientes.
- Capacidade de trabalhar como contratado independente.
- Candidatos H1-B e STEM OPT não são aceitos.
- Preferencial: experiência em aprendizado de máquina adversarial com conjuntos de dados de jailbreak, ataques de injeção de prompt, ataques de RLHF ou DPO, ou extração de modelos.
- Preferencial: experiência em cibersegurança com testes de intrusão, desenvolvimento de exploits ou engenharia reversa.
- Preferencial: experiência em riscos sociotécnicos envolvendo investigação de assédio ou desinformação, análise de abusos ou testes de IA conversacional.
- Preferencial: experiência em sondagem criativa em psicologia, atuação ou escrita.
Benefícios
- Trabalho totalmente remoto.
- Horário flexível, com possibilidade de definir suas próprias horas.
- Pagamentos semanais por Stripe ou Wise.
- Participação opcional em projetos de maior sensibilidade.
- Orientações claras e recursos de bem-estar para trabalhos que envolvam conteúdo sensível.
- Pagamento por hora competitivo.
- Oportunidade de colaborar com pesquisadores renomados.
- Pagamentos de indicação de até US$ 90 por indicação bem-sucedida, sujeitos aos limites aplicáveis.
- Adaptações razoáveis disponíveis mediante solicitação.