ActiveFence
ActiveFence
A ActiveFence é uma empresa de cibersegurança e inteligência artificial focada em confiança e segurança para plataformas online. Sua oferta completa combina pesquisa de inteligência, detecção de conteúdo nocivo com tecnologia de IA e ferramentas de moderação de conteúdo para ajudar as plataformas a lidar com riscos como exploração infantil, desinformação, discurso de ódio, terrorismo, nudez, fraude e outras formas de danos online. A ActiveFence apoia equipes de confiança e segurança de diferentes tamanhos, ajudando a proteger mais de três bilhões de usuários em todo o mundo em mais de 100 idiomas.

Red Team de IA: avaliação adversarial de IA generativa na ActiveFence

Desenvolva ataques adversariais, conjuntos de dados e benchmarks para a plataforma de segurança de IA da ActiveFence. Teste a robustez de LLMs com red teaming e pesquisa de vulnerabilidades.

Descrição

  • Projetar novos ataques adversariais.
  • Ajudar a criar sistemas escaláveis para gerar e testar ataques em larga escala.
  • Avaliar a qualidade, a eficácia, a novidade e a reprodutibilidade dos ataques.
  • Identificar padrões emergentes de ataque e vulnerabilidades em modelos.
  • Criar conjuntos de dados adversariais, benchmarks e testes de regressão.
  • Compartilhar descobertas, métodos e dados estruturados de ataques com as equipes de Ciência de Dados, Segurança e Engenharia.
  • Contribuir para modelos mais robustos e defesas mais fortes.

Requisitos

  • Pelo menos três anos de experiência profissional em cibersegurança, pesquisa de segurança, red teaming ou área de segurança relacionada.
  • Bacharelado em Ciência de Dados, Engenharia da Computação, Ciência da Computação ou área técnica estreitamente relacionada.
  • Forte conhecimento de modelos de linguagem grandes, injeção de prompt e segurança de IA.
  • Experiência em red teaming, pesquisa de segurança ou testes adversariais.
  • Forte domínio de Python e automação.
  • Criatividade na resolução de problemas e capacidade de desenvolver novas técnicas de ataque.
  • Capacidade de analisar resultados e comunicar descobertas com clareza.
  • Certificações em cibersegurança ofensiva, como OSWA, OSWE, OSCE3, SEC542 ou SEC522, são desejáveis.

Vagas relacionadas

Mozilla

Analista sênior de dados, telemetria de desempenho do Firefox — Mozilla (remoto, Canadá)

Mozilla

Analise a telemetria do Gecko no Firefox para orientar a estratégia de desempenho do navegador da Mozilla. Crie painéis, melhore a qualidade da telemetria e relacione o desempenho do mecanismo ao comportamento dos usuários.

Abrir
Betfair Romania Development

Gerente sênior de riscos e compliance de RH

Betfair Romania Development
1.001 – 5.000 Funcionários
ConsultoriaCuidados de saúdeMarketing

Lidera a supervisão da legislação trabalhista, as auditorias de compliance e a governança, riscos e compliance (GRC) nas operações globais de RH da Flutter Entertainment. Trabalha com as lideranças de RH para gerenciar mudanças regulatórias, controles e mitigação de riscos.

Abrir
HR Ways - Hiring Tech Talent

Recrutador(a), Paquistão (remoto)

HR Ways - Hiring Tech Talent

Recrute entregadores, operadores, profissionais de armazém e outros funcionários no Paquistão para uma empresa internacional de suplementos alimentares. Cuide remotamente da busca de candidatos, entrevistas, integração e dados diários de contratação.

Abrir
Cambium Learning Group

Parceiro(a) sênior de Recursos Humanos para negócios

Cambium Learning Group

Define a estratégia de pessoas de uma unidade de negócios da Cambium Learning Group e assessora executivos em desenho organizacional, talentos e gestão da mudança. Lidera o planejamento da força de trabalho, sucessão e relações com funcionários em uma vaga remota baseada nos Estados Unidos.

Abrir