Az ActiveFence kiberbiztonsági és mesterségesintelligencia-vállalat, amely az online platformok megbízhatóságára és biztonságára összpontosít. Teljes körű megoldása az információszerzési kutatást, a mesterséges intelligenciával támogatott káros tartalomfelismerést és a tartalommoderálási eszközöket egyesíti, hogy segítsen a platformoknak kezelni az olyan kockázatokat, mint a gyermekek kizsákmányolása, a dezinformáció, a gyűlöletbeszéd, a terrorizmus, a meztelenség, a csalás és az online károkozás egyéb formái. Az ActiveFence különböző méretű bizalom- és biztonsági csapatokat támogat, és világszerte több mint hárommilliárd felhasználó védelméhez járul hozzá több mint 100 nyelven.
MI Red Team – Generatív MI adverszárius értékelése az ActiveFence-nél
Adverzárius támadásokat, adatkészleteket és benchmarkokat dolgoz ki az ActiveFence MI-biztonsági platformjához. Red teaminggel és sebezhetőség-kutatással teszteli a nagy nyelvi modellek ellenálló képességét.
Leírás
- Új adverzárius támadási módszereket tervezzen.
- Működjön közre a támadások nagy léptékű előállítására és tesztelésére szolgáló, skálázható rendszerek fejlesztésében.
- Értékelje a támadásokat minőség, hatékonyság, újszerűség és reprodukálhatóság szerint.
- Fedezze fel a kialakuló támadási mintákat és a modellek sebezhetőségeit.
- Hozzon létre adverzárius adatkészleteket, benchmarkokat és regressziós teszteket.
- Ossza meg az eredményeket, módszereket és strukturált támadási adatokat az adattudományi, biztonsági és mérnöki csapatokkal.
- Járuljon hozzá a modellek ellenálló képességének és védelmének erősítéséhez.
Követelmények
- Legalább három év szakmai tapasztalat kiberbiztonság, biztonsági kutatás, red teaming vagy kapcsolódó biztonsági területen.
- Adattudományi, számítógép-mérnöki, informatikai vagy szorosan kapcsolódó műszaki területen szerzett alapdiploma.
- A nagy nyelvi modellek, a prompt injection és az MI-biztonság alapos ismerete.
- Tapasztalat red teamingben, biztonsági kutatásban vagy adverzárius tesztelésben.
- Magas szintű Python- és automatizálási készségek.
- Kreatív problémamegoldó készség és új támadási technikák kidolgozásának képessége.
- Az eredmények elemzésének és a megállapítások világos kommunikálásának képessége.
- Előnyt jelentenek az olyan offenzív kiberbiztonsági tanúsítványok, mint az OSWA, OSWE, OSCE3, SEC542 vagy SEC522.