ActiveFence
ActiveFence
ActiveFence is een cybersecurity- en kunstmatige-intelligentiebedrijf dat zich richt op vertrouwen en veiligheid voor onlineplatforms. Het geïntegreerde aanbod combineert inlichtingenonderzoek, AI-gestuurde detectie van schadelijke content en tools voor contentmoderatie om platforms te helpen risico's aan te pakken, zoals seksuele uitbuiting van kinderen, desinformatie, haatzaaiende uitlatingen, terrorisme, naaktheid, fraude en andere vormen van online schade. ActiveFence ondersteunt trust-and-safetyteams van verschillende omvang en helpt wereldwijd meer dan drie miljard gebruikers te beschermen in meer dan 100 talen.

Senior GenAI Data Scientist bij ActiveFence (Hybride, Israël)

Functie voor een Senior GenAI Data Scientist met focus op geautomatiseerd red teaming, machine learning en grootschalige data-analyse. Bouw systemen die helpen om opkomende beveiligingsrisico's in online ervaringen en AI-producten te identificeren.

Beschrijving

  • Ontwikkel schaalbare data science-agents die meerstapsworkflows voor het genereren en analyseren van adversarial aanvallen kunnen beredeneren en uitvoeren.
  • Beheer en interpreteer prompt- en responsgegevens uit red-teamcampagnes, modelevaluaties en synthetische aanvallen, inclusief opschoning, curatie, normalisatie en labeling.
  • Onderzoek gestructureerde en ongestructureerde data om trends, clusters, anomalieën, aanvalsfamilies, jailbreaktechnieken en nieuwe patronen te identificeren.
  • Creëer machine-learningmodellen en voorspellende algoritmen die red-teamprocessen automatiseren.
  • Ontwikkel evaluatie- en monitoringpipelines om aanvalssucces te meten en modelgedrag tussen aanbieders te vergelijken.
  • Pas statistische methoden en experimenten toe om bevindingen te verifiëren en nauwkeurige, reproduceerbare resultaten te ondersteunen.
  • Breng onderzoek naar productie met betrouwbare, schaalbare systemen die zijn ontworpen voor kostenefficiëntie en lage latentie, ondersteund door tests, CI/CD en telemetrie.

Vereisten

  • Minimaal vijf jaar praktische ervaring met data science of machine learning, met gebruik van Python of R en SQL.
  • Minimaal drie jaar ervaring met Scikit-Learn en PyTorch.
  • Praktische ervaring met GenAI-red teaming, adversarial testing of LLM-beveiliging.
  • Ervaring met het bouwen en implementeren van LLM-aangedreven of machine-learningsystemen in productie.
  • Sterke kennis van ontwerp­patronen voor LLM's, waaronder prompt engineering, tool calling, gestructureerde outputs en RAG.
  • Sterk begrip van clustering, embeddings en NLP, semantische gelijkenis en anomalie- of nieuwheidsdetectie.
  • Ervaring met het ontwikkelen van classificatie-, ranking- of prioriteringssystemen.
  • Goede basiskennis van statistiek, experimenteel ontwerp en modelevaluatie.
  • Ervaring met Cradle, Apache Hadoop en Spark, evenals met de ontwikkeling van grootschalige ETL- en datapipelineoplossingen.
  • M.Sc. in computerwetenschappen, elektrotechniek, wiskunde, statistiek of een verwante discipline.
  • Een Ph.D. is een pluspunt, maar niet vereist.

Gerelateerde vacatures

Naseej

Interne IT- en cybersecurity-auditor

Naseej

Voer cybersecurity- en IT-audits uit voor Naseej, een technologiebedrijf voor digitale transformatie. Daarbij beoordeelt u onder meer de naleving van de voorschriften van de National Cybersecurity Authority en plannen voor herstel na calamiteiten. Test beheersmaatregelen, documenteer bewijsmateriaal en beoordeel herstelplannen en procedures.

Openen
TÜV TRUST IT Unternehmensgruppe TÜV AUSTRIA

Junior securityauditor elektronische identiteiten en vertrouwensdiensten

TÜV TRUST IT Unternehmensgruppe TÜV AUSTRIA

Adviseer over en audit elektronische identiteiten en vertrouwensdiensten voor het certificeringswerk rond informatiebeveiliging van TÜV. Beoordeel beveiligingsmaatregelen, rapporteer bevindingen en coördineer complexe complianceprojecten.

Openen