ActiveFence on küberjulgeoleku- ja tehisintellektiettevõte, mis keskendub veebiplatvormide usaldusväärsusele ja turvalisusele. Selle täislahendus ühendab luureuuringud, tehisintellektil põhineva kahjuliku sisu tuvastamise ja sisu modereerimise tööriistad, aidates platvormidel tegeleda selliste riskidega nagu laste seksuaalne ärakasutamine, väärinfo, vihakõne, terrorism, alastus, pettused ja muud veebis levivad ohud. ActiveFence toetab eri suurusega usalduse ja turvalisuse meeskondi ning aitab kaitsta rohkem kui kolme miljardit kasutajat kogu maailmas enam kui sajas keeles.
Tehisintellekti red teaming – generatiivse tehisintellekti ründav hindamine ActiveFences
Tööta välja ründemeetodeid, andmestikke ja võrdlusteste ActiveFence’i tehisintellekti turbeplatvormile. Testi suuri keelemudeleid red teamingu ja haavatavusuuringute abil.
Kirjeldus
- Kavanda uusi ründemeetodeid.
- Aita luua skaleeritavaid süsteeme rünnete ulatuslikuks genereerimiseks ja testimiseks.
- Hinda rünnete kvaliteeti, tõhusust, uudsust ja korratavust.
- Avasta uusi ründemustreid ja mudelite haavatavusi.
- Loo ründavaid andmestikke, võrdlusteste ja regressiooniteste.
- Jaga leide, meetodeid ja struktureeritud ründeandmeid andmeteaduse, turbe ja inseneeria meeskondadega.
- Aita parandada mudelite vastupidavust ja kaitsemeetmeid.
Nõuded
- Vähemalt kolmeaastane töökogemus küberturvalisuse, turbeuuringute, red teamingu või sellega seotud turbevaldkonnas.
- Bakalaureusekraad andmeteaduses, arvutitehnikas, informaatikas või lähedasel tehnilisel erialal.
- Head teadmised suurtest keelemudelitest, prompt-injektsioonist ja tehisintellekti turbest.
- Kogemus red teamingu, turbeuuringute või ründava testimisega.
- Hea Pythoni ja automatiseerimise oskus.
- Loov probleemilahendusoskus ning võime töötada välja uusi ründetehnikaid.
- Oskus tulemusi analüüsida ja leide selgelt edastada.
- Ründava küberturvalisuse sertifikaate, näiteks OSWA, OSWE, OSCE3, SEC542 või SEC522, peetakse eeliseks.