ActiveFence
ActiveFence
201 – 500 Medarbejdere
CybersikkerhedKunstig intelligens
ActiveFence er en virksomhed inden for cybersikkerhed og kunstig intelligens med fokus på tillid og sikkerhed for onlineplatforme. Virksomhedens samlede løsning kombinerer efterretningsarbejde, AI-drevet registrering af skadeligt indhold og værktøjer til indholdsmoderering, så platforme kan håndtere risici som seksuel udnyttelse af børn, desinformation, hadefuld tale, terrorisme, nøgenhed, svindel og andre former for skade online. ActiveFence hjælper tillids- og sikkerhedsteams af forskellig størrelse med at beskytte mere end tre milliarder brugere verden over på over 100 sprog.

AI Red Team – adversarial evaluering af generativ AI hos ActiveFence

Udvikl adversarialangreb, datasæt og benchmarks til ActiveFences AI-sikkerhedsplatform. Test LLM-robusthed gennem red teaming og sårbarhedsforskning.

Beskrivelse

  • Design nye adversarialangreb.
  • Hjælp med at bygge skalerbare systemer til at generere og teste angreb i stor skala.
  • Vurder angreb ud fra kvalitet, effektivitet, nyhedsværdi og reproducerbarhed.
  • Opdag nye angrebsmønstre og sårbarheder i modeller.
  • Opret adversarialdatasæt, benchmarks og regressionstests.
  • Del resultater, metoder og strukturerede angrebsdata med teams inden for datavidenskab, sikkerhed og teknik.
  • Bidrag til større robusthed og bedre forsvar i modeller.

Krav

  • Mindst tre års professionel erfaring inden for cybersikkerhed, sikkerhedsforskning, red teaming eller et beslægtet sikkerhedsområde.
  • Bachelorgrad i datavidenskab, computerteknik, datalogi eller et nært beslægtet teknisk fagområde.
  • Stærkt kendskab til store sprogmodeller, prompt injection og AI-sikkerhed.
  • Erfaring med red teaming, sikkerhedsforskning eller adversarialtest.
  • Stærke færdigheder i Python og automatisering.
  • Kreative problemløsningsevner og evne til at udvikle nye angrebsteknikker.
  • Evne til at analysere resultater og formidle konklusioner klart.
  • Offensive cybersikkerhedscertificeringer som OSWA, OSWE, OSCE3, SEC542 eller SEC522 foretrækkes.

Relaterede job

EY

AI-softwareingeniør inden for finansiel rådgivning

EY

Udvikl og implementer løsninger inden for generativ AI, LLM og MLOps for EY's kunder inden for finansiel rådgivning i Mellemøsten og Nordafrika. Bidrag til AI-strategi, produktionsleverancer og forretningsudvikling.

Åbn
Maxibook OÜ

Bidragyder inden for videnskabeligt sprog og AI-tilpasning

Maxibook OÜ

Hjælp AI-uddannelsesstartupvirksomheden Maxibook med at tilpasse engelsksproget videnskabeligt indhold til koreansk-, japansk- eller arabisktalende målgrupper. Vurder AI-genereret materiale for begrebsmæssig præcision, naturligt sprog og akademisk troværdighed.

Åbn
ZACO Robot

B2B-sælger af kommercielle rengøringsrobotter

ZACO Robot
11 – 50 Medarbejdere
ByggeriLogistikRådgivning

Kvalificér leads og book salgssamtaler om RV-Techs professionelle rengøringsrobotter med beslutningstagere i virksomheder. Arbejdet foregår på afstand og handler om automatisering og robotteknologi på et voksende erhvervsmarked.

Åbn