ActiveFence yra kibernetinio saugumo ir dirbtinio intelekto įmonė, daugiausia dėmesio skirianti interneto platformų patikimumui ir saugumui. Jos visapusiškas sprendimas apima žvalgybos tyrimus, dirbtiniu intelektu grindžiamą žalingo turinio aptikimą ir turinio moderavimo įrankius, padedančius platformoms valdyti tokias rizikas kaip vaikų išnaudojimas, dezinformacija, neapykantos kalba, terorizmas, nuogybės, sukčiavimas ir kitos žalos internete formos. ActiveFence padeda įvairaus dydžio patikimumo ir saugumo komandoms bei prisideda prie daugiau nei trijų milijardų naudotojų apsaugos visame pasaulyje, daugiau nei 100 kalbų.
Vyresnysis „GenAI“ duomenų mokslininkas įmonėje „ActiveFence“ (hibridinis darbas, Izraelis)
Vyresniojo „GenAI“ duomenų mokslininko darbas orientuotas į automatizuotą red team testavimą, mašininį mokymąsi ir didelės apimties duomenų analizę. Kuriamos sistemos, padedančios nustatyti kylančias saugumo grėsmes interneto aplinkose ir dirbtinio intelekto produktuose.
Aprašymas
- Kurkite keičiamo masto duomenų mokslo agentus, gebančius samprotauti apie kelių etapų darbo eigą ir ją vykdyti generuojant bei analizuojant priešiškas atakas.
- Tvarkykite ir interpretuokite red team kampanijų, modelių vertinimų ir sintetinių atakų raginimų bei atsakymų duomenis, įskaitant jų valymą, kuravimą, normalizavimą ir žymėjimą.
- Analizuokite struktūrizuotus ir nestruktūrizuotus duomenis, kad nustatytumėte tendencijas, grupes, anomalijas, atakų šeimas, jailbreak metodus ir naujus dėsningumus.
- Kurkite mašininio mokymosi modelius ir prognozavimo algoritmus, automatizuojančius red team procesus.
- Kurkite vertinimo ir stebėsenos konvejerius, skirtus atakų sėkmei matuoti ir modelių elgsenai tarp skirtingų paslaugų teikėjų palyginti.
- Taikykite statistinius metodus ir eksperimentus išvadoms patikrinti bei tiksliems ir atkuriamiems rezultatams užtikrinti.
- Perkelkite tyrimus į gamybinę aplinką naudodami patikimas, keičiamo masto sistemas, sukurtas efektyviai valdyti sąnaudas ir delsą, ir palaikomas testavimo, CI/CD bei telemetrijos.
Reikalavimai
- Bent penkerių metų praktinė duomenų mokslo arba mašininio mokymosi patirtis naudojant Python arba R ir SQL.
- Bent trejų metų patirtis dirbant su „Scikit-Learn“ ir „PyTorch“.
- Praktinė patirtis GenAI red team testavimo, priešiško testavimo arba LLM saugumo srityje.
- Patirtis kuriant ir diegiant gamybinėje aplinkoje veikiančias LLM pagrįstas arba mašininio mokymosi sistemas.
- Puikios LLM projektavimo šablonų žinios, įskaitant raginimų inžineriją, įrankių iškvietimą, struktūrizuotus išvesties duomenis ir RAG.
- Puikus grupavimo, įterpinių ir NLP, semantinio panašumo bei anomalijų arba naujumo aptikimo išmanymas.
- Patirtis kuriant klasifikavimo, rikiavimo arba prioritetų nustatymo sistemas.
- Tvirti statistikos, eksperimentų projektavimo ir modelių vertinimo pagrindai.
- Patirtis naudojant „Cradle“, „Apache Hadoop“ ir „Spark“, taip pat kuriant didelės apimties ETL ir duomenų konvejerius.
- Kompiuterių mokslo, elektros inžinerijos, matematikos, statistikos arba susijusios krypties magistro laipsnis.
- Daktaro laipsnis būtų privalumas, tačiau nėra būtinas.