ActiveFence on kyberturvallisuus- ja tekoälyyritys, joka keskittyy verkkopalvelujen luottamukseen ja turvallisuuteen. Sen kokonaisvaltainen ratkaisu yhdistää tiedustelututkimuksen, tekoälypohjaisen haitallisen sisällön tunnistamisen ja sisällön moderointityökalut, joiden avulla alustat voivat hallita esimerkiksi lasten hyväksikäyttöön, disinformaatioon, vihapuheeseen, terrorismiin, alastomuuteen, petoksiin ja muihin verkkohaittoihin liittyviä riskejä. ActiveFence tukee erikokoisia luottamus- ja turvallisuustiimejä ja auttaa suojaamaan yli kolmea miljardia käyttäjää maailmanlaajuisesti yli sadalla kielellä.
Senior-tason GenAI-datatutkija ActiveFencellä (hybridi, Israel)
Senior-tason GenAI-datatutkijan tehtävä keskittyy automatisoituun red team -testaukseen, koneoppimiseen ja laajamittaiseen data-analyysiin. Rakenna järjestelmiä, jotka auttavat tunnistamaan uusia tietoturvauhkia verkkokokemuksissa ja tekoälytuotteissa.
Kuvaus
- Kehitä skaalautuvia datatieteen agentteja, jotka päättelykykynsä avulla käyvät läpi monivaiheisia työnkulkuja ja toteuttavat niitä vastakkaisten hyökkäysten tuottamiseksi ja analysoimiseksi.
- Hallinnoi ja tulkitse red team -kampanjoista, mallien arvioinneista ja synteettisistä hyökkäyksistä saatavaa prompti- ja vastausdataa, mukaan lukien puhdistus, kuratointi, normalisointi ja merkitseminen.
- Tutki strukturoitua ja strukturoimatonta dataa trendien, ryhmittymien, poikkeamien, hyökkäysperheiden, jailbreak-tekniikoiden ja uusien ilmiöiden tunnistamiseksi.
- Luo koneoppimismalleja ja ennustavia algoritmeja, jotka automatisoivat red team -prosesseja.
- Kehitä arviointi- ja valvontaputkia hyökkäysten onnistumisen mittaamiseen ja mallien toiminnan vertailemiseen eri palveluntarjoajien välillä.
- Sovella tilastollisia menetelmiä ja kokeita havaintojen varmistamiseen sekä tarkkojen ja toistettavien tulosten tukemiseen.
- Vie tutkimus tuotantoon luotettavien ja skaalautuvien järjestelmien avulla. Järjestelmät suunnitellaan kustannus- ja viivetehokkaiksi, ja niitä tuetaan testauksella, CI/CD:llä ja telemetrialla.
Vaatimukset
- Vähintään viiden vuoden käytännön kokemus datatieteestä tai koneoppimisesta Pythonilla tai R:llä ja SQL:llä.
- Vähintään kolmen vuoden kokemus Scikit-Learnista ja PyTorchista.
- Käytännön kokemus GenAI:n red team -testauksesta, vastakkaisten hyökkäysten testaamisesta tai LLM-tietoturvasta.
- Kokemusta tuotantokäyttöön tarkoitettujen LLM-pohjaisten tai koneoppimisjärjestelmien rakentamisesta ja käyttöönotosta.
- Vahva LLM-suunnittelumallien tuntemus, mukaan lukien prompt engineering, työkalukutsut, rakenteiset tulosteet ja RAG.
- Vahva ymmärrys ryhmittelystä, upotuksista ja NLP:stä, semanttisesta samankaltaisuudesta sekä poikkeamien tai uutuuksien tunnistamisesta.
- Kokemusta luokittelu-, järjestämis- tai priorisointijärjestelmien kehittämisestä.
- Vankka perusta tilastotieteessä, kokeiden suunnittelussa ja mallien arvioinnissa.
- Kokemusta Cradlen, Apache Hadoopin ja Sparkin käytöstä sekä laajamittaisesta ETL- ja dataputkien kehittämisestä.
- Tietojenkäsittelytieteen, sähkötekniikan, matematiikan, tilastotieteen tai lähialan diplomi-insinöörin tai maisterin tutkinto.
- Tohtorintutkinto katsotaan eduksi, mutta sitä ei edellytetä.