ActiveFence yra kibernetinio saugumo ir dirbtinio intelekto įmonė, daugiausia dėmesio skirianti interneto platformų patikimumui ir saugumui. Jos visapusiškas sprendimas apima žvalgybos tyrimus, dirbtiniu intelektu grindžiamą žalingo turinio aptikimą ir turinio moderavimo įrankius, padedančius platformoms valdyti tokias rizikas kaip vaikų išnaudojimas, dezinformacija, neapykantos kalba, terorizmas, nuogybės, sukčiavimas ir kitos žalos internete formos. ActiveFence padeda įvairaus dydžio patikimumo ir saugumo komandoms bei prisideda prie daugiau nei trijų milijardų naudotojų apsaugos visame pasaulyje, daugiau nei 100 kalbų.
Vyresnysis dirbtinio intelekto tyrėjas – hibridinis darbas Izraelyje
Vadovaukite atviro svorio DI modelių sustiprintojo mokymosi vertinimui, raudonosios komandos pratyboms ir saugumo auditams. Kurkite lyginamojo vertinimo ir papildomo mokymo procesus „ActiveFence“ DI pasitikėjimo, saugos ir saugumo darbui.
Aprašymas
- Vadovaukite atviro svorio modelių papildomo mokymo vertinimams, raudonosios komandos pratyboms ir sustiprintojo mokymosi aplinkų auditams
- Kurkite griežtas lyginamojo vertinimo metodikas
- Vertinkite didžiuosius kalbos modelius pagal sudėtingas grėsmes, įskaitant netiesioginio raginimo įterpimo atakas
- Kurkite papildomo mokymo vertinimo procesus, matuojančius realistiškas pažangiausio lygio saugumo galimybes
- Vykdykite papildomo mokymo eksperimentus, pavyzdžiui, GRPO, su atviro svorio bendrosios paskirties modeliais į saugumą orientuotose sustiprintojo mokymosi aplinkose
- Analizuokite tiesiogines nuostolių kreives ir paleidimų pėdsakus, kad aptiktumėte atlygio manipuliavimą, vangų politikos konvergavimą ir prastai apibrėžtus verifikatorius
- Vertinkite užduočių ir kelių ėjimų aplinkų, kuriose naudojami įrankiai, naršymas internete ir darbas kompiuteriu, realistiškumą, grėsmių modelio tikslumą, duomenų pasiskirstymą ir duomenų rinkinio balansą
- Renkite vertinimo korteles, apimančias kontrolinių taškų našumo prieaugį, gedimų režimus, paleidimų pėdsakų žetonus ir ėjimus bei užduočių lygmens sėkmės rodiklius
- Integruokite Docker konteinerizuotas aplinkas, įskaitant „Harbor“ formato aplinkas, į vidines mokymo sistemas
- Gerinkite atkūrimo ir būsenos semantiką, lygiagretumą bei pralaidumo ribas
Reikalavimai
- Duomenų mokslo, mašininio mokymosi ar informatikos magistro arba daktaro laipsnis arba lygiavertė praktinė giluminio mokymosi patirtis
- Praktinė didelės apimties modelių mokymo patirtis naudojant sustiprintojo mokymosi algoritmus, tokius kaip GRPO ar PPO, su atviro svorio architektūromis
- Puikios žinios apie didžiųjų kalbos modelių pažeidžiamumus, raudonosios komandos praktiką ir gynybinį derinimą nuo netiesioginio raginimo įterpimo atakų
- Puikios PyTorch, Docker konteinerizacijos ir paskirstytojo mokymo architektūrų žinios
- Gebėjimas interpretuoti agentų paleidimų pėdsakus, kurti deterministines vertinimo taisykles ir verifikatorius bei šalinti sudėtingas atlygio formavimo problemas
- Standartinių sustiprintojo mokymosi aplinkų, tokių kaip „Harbor“, patirtis būtų privalumas
- Sudėtingų agentinių darbo eigų vertinimo įrankių naudojimo ar interneto naršyklės aplinkose patirtis būtų privalumas
- Llama ar Mistral tipo atviro svorio modelių vertinimo pagal priešiškas darbo apkrovas išmanymas būtų privalumas