ActiveFence
ActiveFence
ActiveFence è un’azienda di cybersicurezza e intelligenza artificiale specializzata nella fiducia e nella sicurezza delle piattaforme online. La sua offerta completa combina ricerca di intelligence, rilevamento dei contenuti dannosi basato sull’intelligenza artificiale e strumenti di moderazione dei contenuti per aiutare le piattaforme ad affrontare rischi come lo sfruttamento minorile, la disinformazione, i discorsi d’odio, il terrorismo, la nudità, le frodi e altre forme di danno online. ActiveFence supporta team di fiducia e sicurezza di diverse dimensioni, contribuendo a proteggere più di tre miliardi di utenti in tutto il mondo e in oltre 100 lingue.

Data Scientist Senior di GenAI presso ActiveFence (Ibrido, Israele)

Ruolo senior nella data science applicata alla GenAI, focalizzato sul red teaming automatizzato, sul machine learning e sull’analisi dei dati su larga scala. Sviluppare sistemi che aiutino a individuare minacce alla sicurezza emergenti nelle esperienze online e nei prodotti di IA.

Descrizione

  • Sviluppare agenti scalabili di data science in grado di ragionare ed eseguire workflow articolati in più fasi per generare e analizzare attacchi avversari.
  • Gestire e interpretare i dati di prompt e risposte provenienti da campagne di red teaming, valutazioni dei modelli e attacchi sintetici, inclusi pulizia, curatela, normalizzazione ed etichettatura.
  • Esaminare dati strutturati e non strutturati per individuare tendenze, cluster, anomalie, famiglie di attacchi, tecniche di jailbreak e nuovi pattern.
  • Creare modelli di machine learning e algoritmi predittivi che automatizzino i processi di red teaming.
  • Sviluppare pipeline di valutazione e monitoraggio per misurare il successo degli attacchi e confrontare il comportamento dei modelli tra diversi provider.
  • Applicare metodi statistici e sperimentazioni per verificare i risultati e supportare conclusioni accurate e riproducibili.
  • Portare la ricerca in produzione tramite sistemi affidabili e scalabili, progettati per ottimizzare costi e latenza, con il supporto di test, CI/CD e telemetria.

Requisiti

  • Almeno cinque anni di esperienza pratica in data science o machine learning utilizzando Python o R e SQL.
  • Almeno tre anni di esperienza con Scikit-Learn e PyTorch.
  • Esperienza pratica nel red teaming di GenAI, nei test avversari o nella sicurezza degli LLM.
  • Esperienza nella creazione e nella distribuzione in produzione di sistemi basati su LLM o machine learning.
  • Solida conoscenza dei pattern di progettazione per gli LLM, inclusi prompt engineering, chiamate agli strumenti, output strutturati e RAG.
  • Solida comprensione di clustering, embeddings e NLP, similarità semantica e rilevamento di anomalie o novità.
  • Esperienza nello sviluppo di sistemi di classificazione, ranking o prioritizzazione.
  • Solide basi di statistica, progettazione sperimentale e valutazione dei modelli.
  • Esperienza con Cradle, Apache Hadoop, Spark e lo sviluppo di processi ETL e pipeline di dati su larga scala.
  • Laurea magistrale in informatica, ingegneria elettrica, matematica, statistica o disciplina affine.
  • Il dottorato di ricerca costituisce un vantaggio, ma non è obbligatorio.

Offerte correlate

My Hero VA

Addetto bilingue alla fissazione di appuntamenti (da remoto, Colombia)

My Hero VA
1 – 10 Dipendenti
ConsulenzaLogisticaMarketing

Effettua chiamate in uscita in inglese e spagnolo per fissare visite a una scuola di barberia in Florida. Il ruolo da remoto in Colombia comprende anche il ricontatto dei potenziali clienti e attività amministrative quotidiane.

Apri
Inkster GmbH

Responsabile marketing, ibrido ad Amburgo

Inkster GmbH

Guida lo sviluppo creativo delle campagne, i contenuti per i social media e l’analisi delle performance in Inkster, fornitore europeo di tatuaggi temporanei a base di frutta. Sperimenta e ottimizza i creativi di marketing usando gli insight delle campagne e le tendenze di mercato.

Apri