Az ActiveFence kiberbiztonsági és mesterségesintelligencia-vállalat, amely az online platformok megbízhatóságára és biztonságára összpontosít. Teljes körű megoldása az információszerzési kutatást, a mesterséges intelligenciával támogatott káros tartalomfelismerést és a tartalommoderálási eszközöket egyesíti, hogy segítsen a platformoknak kezelni az olyan kockázatokat, mint a gyermekek kizsákmányolása, a dezinformáció, a gyűlöletbeszéd, a terrorizmus, a meztelenség, a csalás és az online károkozás egyéb formái. Az ActiveFence különböző méretű bizalom- és biztonsági csapatokat támogat, és világszerte több mint hárommilliárd felhasználó védelméhez járul hozzá több mint 100 nyelven.
Senior GenAI adattudós az ActiveFence-nél (hibrid, Izrael)
Senior GenAI adattudós pozíció automatizált red teamingre, gépi tanulásra és nagyméretű adatelemzésre összpontosítva. Olyan rendszereket építhet, amelyek segítenek az új biztonsági fenyegetések azonosításában az online élményekben és az MI-termékekben.
Leírás
- Skálázható adattudományi ügynököket fejlesszen, amelyek önállóan végiggondolnak és végrehajtanak többlépéses munkafolyamatokat a támadások generálásához és elemzéséhez.
- Kezelje és értelmezze a red-team kampányokból, modellértékelésekből és szintetikus támadásokból származó prompt- és válaszadatokat, beleértve a tisztítást, kurálást, normalizálást és címkézést.
- Vizsgáljon strukturált és strukturálatlan adatokat trendek, klaszterek, anomáliák, támadási családok, jailbreak-technikák és új mintázatok azonosítása érdekében.
- Hozzon létre gépi tanulási modelleket és prediktív algoritmusokat a red-team folyamatok automatizálására.
- Fejlesszen értékelési és monitorozási folyamatokat a támadások sikerességének mérésére és a modellek szolgáltatók közötti viselkedésének összehasonlítására.
- Alkalmazzon statisztikai módszereket és kísérleteket az eredmények ellenőrzésére, valamint pontos és reprodukálható eredmények támogatására.
- Vigye kutatási eredményeit éles környezetbe megbízható, skálázható rendszerekkel, amelyeket költség- és késleltetési hatékonyságra terveztek, és tesztelés, CI/CD, valamint telemetria támogat.
Követelmények
- Legalább öt év gyakorlati tapasztalat adattudományi vagy gépi tanulási területen Python vagy R és SQL használatával.
- Legalább három év tapasztalat a Scikit-Learn és a PyTorch használatában.
- Gyakorlati tapasztalat GenAI red teamingben, adversarial tesztelésben vagy LLM-biztonságban.
- Tapasztalat LLM-alapú vagy gépi tanulási rendszerek éles környezetben történő fejlesztésében és bevezetésében.
- Az LLM-tervezési minták, köztük a prompttervezés, az eszközhívás, a strukturált kimenetek és a RAG alapos ismerete.
- A klaszterezés, a beágyazások és az NLP, a szemantikai hasonlóság, valamint az anomália- vagy újdonságészlelés erős ismerete.
- Osztályozási, rangsorolási vagy priorizálási rendszerek fejlesztésében szerzett tapasztalat.
- Statisztikai, kísérlettervezési és modellértékelési alapismeretek.
- Tapasztalat a Cradle, az Apache Hadoop, a Spark, valamint nagyméretű ETL- és adatfolyamatok fejlesztésében.
- M.Sc. fokozat számítástechnikából, villamosmérnöki tudományokból, matematikából, statisztikából vagy kapcsolódó tudományterületről.
- A Ph.D. előnyt jelent, de nem feltétel.