ActiveFence
ActiveFence
ActiveFence er et selskap innen cybersikkerhet og kunstig intelligens med fokus på tillit og sikkerhet for nettplattformer. Selskapets helhetlige løsning kombinerer etterretningsarbeid, AI-drevet oppdagelse av skadelig innhold og verktøy for innholdsmoderering, slik at plattformer kan håndtere risikoer som seksuell utnyttelse av barn, desinformasjon, hatefulle ytringer, terrorisme, nakenhet, svindel og andre former for skade på nettet. ActiveFence hjelper tillits- og sikkerhetsteam av ulik størrelse med å beskytte mer enn tre milliarder brukere over hele verden på over 100 språk.

AI Red Team – adversarial evaluering av generativ AI hos ActiveFence

Utvikle adversarielle angrep, datasett og referansetester for ActiveFences AI-sikkerhetsplattform. Test LLM-robusthet gjennom red teaming og sårbarhetsforskning.

Beskrivelse

  • Utform nye adversarielle angrep.
  • Bidra til å bygge skalerbare systemer for å generere og teste angrep i stor skala.
  • Vurder angrep etter kvalitet, effektivitet, nyhetsverdi og reproduserbarhet.
  • Oppdag nye angrepsmønstre og sårbarheter i modeller.
  • Lag adversarielle datasett, referansetester og regresjonstester.
  • Del funn, metoder og strukturerte angrepsdata med teamene for datavitenskap, sikkerhet og teknikk.
  • Bidra til bedre robusthet og forsvar i modeller.

Krav

  • Minst tre års yrkeserfaring innen cybersikkerhet, sikkerhetsforskning, red teaming eller et beslektet sikkerhetsområde.
  • Bachelorgrad i datavitenskap, datateknikk, informatikk eller et nært beslektet teknisk fagområde.
  • God kunnskap om store språkmodeller, prompt injection og AI-sikkerhet.
  • Erfaring med red teaming, sikkerhetsforskning eller adversarial testing.
  • Gode ferdigheter i Python og automatisering.
  • Kreative problemløsningsevner og evne til å utvikle nye angrepsteknikker.
  • Evne til å analysere resultater og formidle funn tydelig.
  • Offensive cybersikkerhetssertifiseringer som OSWA, OSWE, OSCE3, SEC542 eller SEC522 er ønskelig.

Relaterte jobber

Centorrino Technologies

Spesialist innen risikostyring – fjernarbeid, Australia

Centorrino Technologies

Implementer et risikostyringssystem for regulerte australske organisasjoner, og omsett styringsbehov til konfigurering, testing, rapportering og innføring. Samarbeid med interessenter gjennom hele implementeringen om risikodata, kontrolltiltak og rapportering til ledelsen.

Åpne