A ActiveFence é uma empresa de cibersegurança e inteligência artificial focada em confiança e segurança para plataformas online. Sua oferta completa combina pesquisa de inteligência, detecção de conteúdo nocivo com tecnologia de IA e ferramentas de moderação de conteúdo para ajudar as plataformas a lidar com riscos como exploração infantil, desinformação, discurso de ódio, terrorismo, nudez, fraude e outras formas de danos online. A ActiveFence apoia equipes de confiança e segurança de diferentes tamanhos, ajudando a proteger mais de três bilhões de usuários em todo o mundo em mais de 100 idiomas.
Cientista de Dados Sênior de GenAI na ActiveFence (Híbrido, Israel)
Cargo sênior de ciência de dados em GenAI com foco em red teaming automatizado, aprendizado de máquina e análise de dados em grande escala. Criar sistemas que ajudem a identificar ameaças de segurança emergentes em experiências online e produtos de IA.
Descrição
- Desenvolver agentes escaláveis de ciência de dados capazes de raciocinar e executar fluxos de trabalho de várias etapas para gerar e analisar ataques adversariais.
- Gerenciar e interpretar dados de prompts e respostas provenientes de campanhas de red teaming, avaliações de modelos e ataques sintéticos, incluindo limpeza, curadoria, normalização e rotulagem.
- Examinar dados estruturados e não estruturados para identificar tendências, clusters, anomalias, famílias de ataques, técnicas de jailbreak e padrões inéditos.
- Criar modelos de aprendizado de máquina e algoritmos preditivos que automatizem processos de red teaming.
- Desenvolver pipelines de avaliação e monitoramento para medir o sucesso dos ataques e comparar o comportamento dos modelos entre provedores.
- Aplicar métodos estatísticos e experimentos para verificar resultados e dar suporte a conclusões precisas e reproduzíveis.
- Levar a pesquisa para produção por meio de sistemas confiáveis e escaláveis, projetados para eficiência de custo e latência, com suporte de testes, CI/CD e telemetria.
Requisitos
- Pelo menos cinco anos de experiência prática em ciência de dados ou aprendizado de máquina usando Python ou R e SQL.
- Pelo menos três anos de experiência com Scikit-Learn e PyTorch.
- Experiência prática em red teaming de GenAI, testes adversariais ou segurança de LLMs.
- Experiência na criação e implantação em produção de sistemas baseados em LLM ou de aprendizado de máquina.
- Sólido conhecimento de padrões de design de LLM, incluindo engenharia de prompts, chamadas de ferramentas, saídas estruturadas e RAG.
- Sólida compreensão de clustering, embeddings e PLN, similaridade semântica e detecção de anomalias ou novidades.
- Experiência no desenvolvimento de sistemas de classificação, ranqueamento ou priorização.
- Boa base em estatística, desenho experimental e avaliação de modelos.
- Experiência com Cradle, Apache Hadoop, Spark e desenvolvimento de ETL e pipelines de dados em grande escala.
- Mestrado em ciência da computação, engenharia elétrica, matemática, estatística ou área relacionada.
- Doutorado é considerado um diferencial, mas não é obrigatório.