ActiveFence on küberjulgeoleku- ja tehisintellektiettevõte, mis keskendub veebiplatvormide usaldusväärsusele ja turvalisusele. Selle täislahendus ühendab luureuuringud, tehisintellektil põhineva kahjuliku sisu tuvastamise ja sisu modereerimise tööriistad, aidates platvormidel tegeleda selliste riskidega nagu laste seksuaalne ärakasutamine, väärinfo, vihakõne, terrorism, alastus, pettused ja muud veebis levivad ohud. ActiveFence toetab eri suurusega usalduse ja turvalisuse meeskondi ning aitab kaitsta rohkem kui kolme miljardit kasutajat kogu maailmas enam kui sajas keeles.
Vanem tehisintellekti uurija – hübriidtöö Iisraelis
Juhi tugevdusõppe hindamist, punase meeskonna harjutusi ja avatud kaaludega tehisintellektimudelite turvaauditeid. Loo võrdlus- ja järelkoolituskonveiereid ActiveFence’i tehisintellekti usaldusväärsuse, ohutuse ja turvalisuse töö jaoks.
Kirjeldus
- Juhi avatud kaaludega mudelite järelkoolituse hindamisi, punase meeskonna harjutusi ja tugevdusõppe keskkondade auditeid
- Kavanda rangeid võrdlusmeetodeid
- Hinda suuri keelemudeleid keerukate ohtude, sealhulgas kaudse prompt-süstimise rünnakute suhtes
- Loo järelkoolituse hindamiskonveiereid, mis mõõdavad realistlikke tipptasemel turvavõimekusi
- Korralda järelkoolituse katseid, näiteks GRPO-ga, avatud kaaludega üldotstarbeliste mudelitega turvakesksetes tugevdusõppe keskkondades
- Uuri jooksvaid kahjufunktsiooni kõveraid ja käivitusjälgi, et tuvastada tasu manipuleerimist, aeglast poliitika konvergentsi ja halvasti määratletud verifitseerijaid
- Hinda tööriistakasutust, veebis navigeerimist ja arvutikasutust hõlmavate ülesannete ning mitme vooruga keskkondade realistlikkust, ohumudeli täpsust, andmejaotust ja andmestiku tasakaalu
- Koosta hindamiskaarte, mis hõlmavad kontrollpunktide jõudluse paranemist, tõrkerežiime, käivitusjälgede tokeneid ja voore ning ülesannete tasandi edukuse määrasid
- Integreeri Dockeriga konteineriseeritud keskkonnad, sealhulgas Harbori vormingus keskkonnad, sisemistesse treeninguraamistikesse
- Paranda lähtestamise ja olekulisuse semantikat, samaaegsust ning läbilaskevõime piiranguid
Nõuded
- Magistrikraad või doktorikraad andmeteaduses, masinõppes või arvutiteaduses või samaväärne praktiline süvaõppe kogemus
- Praktiline kogemus suuremahuliste mudelite treenimisel tugevdusõppe algoritmidega, nagu GRPO või PPO, avatud kaaludega arhitektuuridel
- Põhjalikud teadmised suurte keelemudelite haavatavustest, punase meeskonna praktikatest ja kaudse prompt-süstimise rünnakute vastasest kaitsvast joondamisest
- PyTorchi, Dockeri konteineriseerimise ja hajutatud treeningu arhitektuuride valdamine
- Oskus tõlgendada agentide käivitusjälgi, luua deterministlikke hindamisreegleid ja verifitseerijaid ning siluda keerukaid tasu kujundamise probleeme
- Kogemus standardsete tugevdusõppe keskkondadega, nagu Harbor, tuleb kasuks
- Kogemus keerukate agentsete töövoogude hindamisel tööriistakasutuse või veebibrauseri keskkondades tuleb kasuks
- Llama- või Mistral-laadsete avatud kaaludega mudelite hindamise tundmine vastandlikes töökoormustes tuleb kasuks