Az ActiveFence kiberbiztonsági és mesterségesintelligencia-vállalat, amely az online platformok megbízhatóságára és biztonságára összpontosít. Teljes körű megoldása az információszerzési kutatást, a mesterséges intelligenciával támogatott káros tartalomfelismerést és a tartalommoderálási eszközöket egyesíti, hogy segítsen a platformoknak kezelni az olyan kockázatokat, mint a gyermekek kizsákmányolása, a dezinformáció, a gyűlöletbeszéd, a terrorizmus, a meztelenség, a csalás és az online károkozás egyéb formái. Az ActiveFence különböző méretű bizalom- és biztonsági csapatokat támogat, és világszerte több mint hárommilliárd felhasználó védelméhez járul hozzá több mint 100 nyelven.
Senior AI-kutató – Hibrid munkavégzés Izraelben
Vezesse a nyílt súlyú AI-modellek megerősítéses tanulási értékelését, red team gyakorlatait és biztonsági auditjait. Fejlesszen benchmark- és utótréning-folyamatokat az ActiveFence AI-bizalommal, -biztonsággal és -védelemmel kapcsolatos munkájához.
Leírás
- Vezesse a nyílt súlyú modellek utótréning-értékeléseit, red team gyakorlatait és megerősítéses tanulási környezetek auditjait
- Tervezzen szigorú benchmark-módszertanokat
- Értékelje a nagy nyelvi modelleket kifinomult fenyegetésekkel, köztük a közvetett promptinjektálási támadásokkal szemben
- Építsen olyan utótréning-értékelési folyamatokat, amelyek valósághű, élvonalbeli biztonsági képességeket mérnek
- Futtasson GRPO-hoz hasonló utótréning-kísérleteket nyílt súlyú, általános célú modellekkel biztonságközpontú megerősítéses tanulási környezetekben
- Vizsgálja az élő veszteséggörbéket és a rollout-nyomokat a reward hacking, a lusta policy-konvergencia és a nem megfelelően specifikált verifikátorok felismeréséhez
- Értékelje az eszközhasználatot, webes navigációt és számítógép-használatot magukban foglaló feladatokat és többfordulós környezeteket a realizmus, a fenyegetési modell pontossága, az adateloszlás és az adatkészlet egyensúlya szempontjából
- Készítsen értékelési kártyákat az ellenőrzőpontok teljesítménynövekedéséről, a hibamódokról, a rollout tokenjeiről és fordulóiról, valamint a feladatszintű sikerességi arányokról
- Integrálja a Docker-konténerekbe csomagolt környezeteket, köztük a Harbor-formátumú környezeteket is, belső tréningkeretrendszerekbe
- Javítsa a visszaállítás és az állapotkezelés szemantikáját, a párhuzamosságot és az áteresztőképességi korlátokat
Követelmények
- Adattudományi, gépi tanulási vagy számítástechnikai M.S. vagy Ph.D. fokozat, illetve ezzel egyenértékű gyakorlati tapasztalat mélytanulásban
- Gyakorlati tapasztalat nagyméretű modellek megerősítéses tanulási algoritmusokkal, például GRPO-val vagy PPO-val történő betanításában nyílt súlyú architektúrákon
- A nagy nyelvi modellek sérülékenységeinek, a red team gyakorlatoknak és a közvetett promptinjektálási támadásokkal szembeni védekező összehangolásnak alapos ismerete
- Jártasság a PyTorch, a Docker-konténerezés és az elosztott tanítási architektúrák használatában
- Képesség az ágens-rolloutok nyomainak értelmezésére, determinisztikus értékelési szabályok és verifikátorok létrehozására, valamint összetett jutalomformálási problémák hibakeresésére
- A szabványos megerősítéses tanulási környezetformátumokkal, például a Harborral szerzett tapasztalat előnyt jelent
- A komplex ágensalapú munkafolyamatok eszközhasználati vagy webböngészési környezetben történő értékelésében szerzett tapasztalat előnyt jelent
- A Llama- vagy Mistral-szerű nyílt súlyú modellek ellenséges munkaterhelésekkel szembeni értékelésének ismerete előnyt jelent