ActiveFence
ActiveFence
ActiveFence er et selskap innen cybersikkerhet og kunstig intelligens med fokus på tillit og sikkerhet for nettplattformer. Selskapets helhetlige løsning kombinerer etterretningsarbeid, AI-drevet oppdagelse av skadelig innhold og verktøy for innholdsmoderering, slik at plattformer kan håndtere risikoer som seksuell utnyttelse av barn, desinformasjon, hatefulle ytringer, terrorisme, nakenhet, svindel og andre former for skade på nettet. ActiveFence hjelper tillits- og sikkerhetsteam av ulik størrelse med å beskytte mer enn tre milliarder brukere over hele verden på over 100 språk.

Senior GenAI-dataforsker hos ActiveFence (hybrid, Israel)

Stilling som senior GenAI-dataforsker med fokus på automatisert red teaming, maskinlæring og storskala dataanalyse. Bygg systemer som bidrar til å identifisere nye sikkerhetstrusler på tvers av nettbaserte opplevelser og AI-produkter.

Beskrivelse

  • Utvikle skalerbare data science-agenter som resonnerer gjennom og utfører arbeidsflyter i flere trinn for å generere og analysere adversarial-angrep.
  • Administrere og tolke prompt- og responsdata fra red-team-kampanjer, modelevalueringer og syntetiske angrep, inkludert rensing, kuratering, normalisering og merking.
  • Undersøke strukturerte og ustrukturerte data for å identifisere trender, klynger, avvik, angrepsfamilier, jailbreak-teknikker og nye mønstre.
  • Opprette maskinlæringsmodeller og prediktive algoritmer som automatiserer red-team-prosesser.
  • Utvikle evaluerings- og overvåkingspipelines for å måle angrepssuksess og sammenligne modellatferd på tvers av leverandører.
  • Bruke statistiske metoder og eksperimenter for å verifisere funn og støtte nøyaktige, reproduserbare resultater.
  • Flytte forskning til produksjon gjennom pålitelige, skalerbare systemer utformet for kostnads- og latenseeffektivitet, støttet av testing, CI/CD og telemetri.

Krav

  • Minst fem års praktisk erfaring med data science eller maskinlæring ved bruk av Python eller R og SQL.
  • Minst tre års erfaring med Scikit-Learn og PyTorch.
  • Praktisk erfaring med GenAI-red teaming, adversarial-testing eller LLM-sikkerhet.
  • Erfaring med å bygge og sette LLM-drevne systemer eller maskinlæringssystemer i produksjon.
  • God kunnskap om designmønstre for LLM-er, inkludert prompt engineering, verktøykall, strukturerte utdata og RAG.
  • God forståelse av klynging, embedding-er og NLP, semantisk likhet samt deteksjon av avvik eller nye fenomener.
  • Erfaring med å utvikle klassifiserings-, rangerings- eller prioriteringssystemer.
  • Solid grunnlag i statistikk, eksperimentdesign og modelevaluering.
  • Erfaring med Cradle, Apache Hadoop, Spark samt utvikling av storskala-ETL og datapipelines.
  • Mastergrad i informatikk, elektroteknikk, matematikk, statistikk eller et beslektet fagområde.
  • En ph.d. er en fordel, men ikke et krav.

Relaterte jobber