ActiveFence je společnost působící v oblasti kybernetické bezpečnosti a umělé inteligence, která se zaměřuje na důvěru a bezpečnost online platforem. Její komplexní nabídka kombinuje výzkum a analýzu, detekci škodlivého obsahu pomocí umělé inteligence a nástroje pro moderování obsahu, aby platformám pomohla řešit rizika, jako jsou sexuální zneužívání dětí, dezinformace, projevy nenávisti, terorismus, nahota, podvody a další formy škodlivého obsahu a jednání na internetu. ActiveFence podporuje týmy pro důvěru a bezpečnost různé velikosti a pomáhá chránit více než tři miliardy uživatelů po celém světě ve více než 100 jazycích.
Senior datový vědec pro GenAI ve společnosti ActiveFence (hybridní práce, Izrael)
Pozice seniorního datového vědce pro GenAI se zaměřuje na automatizovaný red teaming, strojové učení a analýzu rozsáhlých dat. Budujte systémy, které pomáhají odhalovat nově vznikající bezpečnostní hrozby v online prostředích a AI produktech.
Popis
- Vyvíjet škálovatelné datově-vědecké agenty, kteří dokážou uvažovat a provádět vícekrokové pracovní postupy pro generování a analýzu adversariálních útoků.
- Spravovat a interpretovat data promptů a odpovědí z red-teamových kampaní, hodnocení modelů a syntetických útoků včetně čištění, kurace, normalizace a označování.
- Zkoumat strukturovaná i nestrukturovaná data s cílem identifikovat trendy, klastry, anomálie, skupiny útoků, techniky jailbreaku a nové vzorce.
- Vytvářet modely strojového učení a prediktivní algoritmy, které automatizují red-teamové procesy.
- Vyvíjet vyhodnocovací a monitorovací pipeline pro měření úspěšnosti útoků a porovnávání chování modelů napříč poskytovateli.
- Používat statistické metody a experimenty k ověřování zjištění a podpoře přesných, reprodukovatelných výsledků.
- Převádět výzkum do produkce prostřednictvím spolehlivých a škálovatelných systémů navržených s ohledem na náklady a latenci, s podporou testování, CI/CD a telemetrie.
Požadavky
- Nejméně pět let praktických zkušeností s datovou vědou nebo strojovým učením s využitím Pythonu nebo R a SQL.
- Nejméně tři roky zkušeností se Scikit-Learn a PyTorch.
- Praktické zkušenosti s GenAI red teamingem, adversariálním testováním nebo bezpečností LLM.
- Zkušenosti s tvorbou a nasazováním produkčních systémů využívajících LLM nebo strojové učení.
- Dobrá znalost návrhových vzorů LLM včetně prompt engineeringu, volání nástrojů, strukturovaných výstupů a RAG.
- Dobré porozumění klastrování, embeddingům a NLP, sémantické podobnosti a detekci anomálií nebo novosti.
- Zkušenosti s vývojem klasifikačních, řadicích nebo prioritizačních systémů.
- Pevné základy statistiky, experimentálního designu a hodnocení modelů.
- Zkušenosti s Cradle, Apache Hadoop a Spark a s vývojem rozsáhlých ETL procesů a datových pipeline.
- Magisterský titul v oboru informatiky, elektrotechniky, matematiky, statistiky nebo příbuzném oboru.
- Ph.D. je výhodou, nikoli však podmínkou.