ActiveFence
ActiveFence
ActiveFence är ett företag inom cybersäkerhet och artificiell intelligens med fokus på förtroende och säkerhet för onlineplattformar. Företagets heltäckande erbjudande kombinerar underrättelsearbete, AI-driven upptäckt av skadligt innehåll och verktyg för innehållsmoderering, så att plattformar kan hantera risker som sexuellt utnyttjande av barn, desinformation, hatpropaganda, terrorism, nakenhet, bedrägerier och andra former av skada online. ActiveFence hjälper förtroende- och säkerhetsteam av olika storlek att skydda mer än tre miljarder användare världen över på över 100 språk.

AI Red Team – adversarial utvärdering av generativ AI på ActiveFence

Utveckla adversariala attacker, dataset och riktmärken för ActiveFences AI-säkerhetsplattform. Testa LLM-robusthet genom red teaming och sårbarhetsforskning.

Beskrivning

  • Utforma nya adversariala attacker.
  • Bidra till att bygga skalbara system för att generera och testa attacker i stor skala.
  • Bedöm attacker utifrån kvalitet, effektivitet, nyhetsvärde och reproducerbarhet.
  • Upptäck framväxande attackmönster och sårbarheter i modeller.
  • Skapa adversariala dataset, riktmärken och regressionstester.
  • Dela resultat, metoder och strukturerade attackdata med teamen för datavetenskap, säkerhet och teknik.
  • Bidra till bättre robusthet och försvar i modeller.

Krav

  • Minst tre års yrkeserfarenhet inom cybersäkerhet, säkerhetsforskning, red teaming eller ett närliggande säkerhetsområde.
  • Kandidatexamen i datavetenskap, datateknik, datorvetenskap eller ett närbesläktat tekniskt område.
  • Goda kunskaper om stora språkmodeller, promptinjektion och AI-säkerhet.
  • Erfarenhet av red teaming, säkerhetsforskning eller adversariala tester.
  • Goda kunskaper i Python och automatisering.
  • Kreativ problemlösningsförmåga och förmåga att utveckla nya attacktekniker.
  • Förmåga att analysera resultat och kommunicera slutsatser tydligt.
  • Offensiva cybersäkerhetscertifieringar som OSWA, OSWE, OSCE3, SEC542 eller SEC522 är meriterande.

Relaterade jobb

Air Liquide

Finanstrainee – fransk-, tysk- eller nederländsktalande

Air Liquide

Delta i Air Liquides traineeprogram inom ekonomi och stötta redovisning, treasury och avstämningar vid företagets globala center för affärstjänster. Bidra till att förbättra boksluts- och ERP-processer och arbeta på engelska samt franska, tyska eller nederländska.

Öppna
Propelis

Senior finansanalytiker

Propelis

Leda finansiell planering och analys för Propelis globala verksamheter inom marknadsföringstjänster och teknik. Ansvara för modellering, budgetering, prognoser, resultatuppföljning och due diligence vid förvärv.

Öppna