ActiveFence je tvrtka za kibernetičku sigurnost i umjetnu inteligenciju usmjerena na povjerenje i sigurnost internetskih platformi. Njezina sveobuhvatna ponuda objedinjuje obavještajno-istraživački rad, otkrivanje štetnog sadržaja uz pomoć umjetne inteligencije i alate za moderiranje sadržaja kako bi platformama pomogla u suočavanju s rizicima poput seksualnog iskorištavanja djece, dezinformacija, govora mržnje, terorizma, golotinje, prijevara i drugih oblika štete na internetu. ActiveFence podržava timove za povjerenje i sigurnost različitih veličina te pomaže zaštititi više od tri milijarde korisnika diljem svijeta na više od 100 jezika.
Viši podatkovni znanstvenik za GenAI u ActiveFenceu (hibridno, Izrael)
Pozicija višeg podatkovnog znanstvenika za GenAI usmjerena je na automatizirano crveno testiranje, strojno učenje i analizu podataka velikih razmjera. Razvijat ćete sustave koji pomažu u prepoznavanju novih sigurnosnih prijetnji u mrežnim iskustvima i proizvodima umjetne inteligencije.
Opis
- Razvijati skalabilne agente podatkovne znanosti koji razmišljaju kroz višekoračne tijekove rada i izvršavaju ih za generiranje i analizu adversarijalnih napada.
- Upravljati podacima promptova i odgovora iz kampanja crvenog testiranja, evaluacija modela i sintetičkih napada te ih tumačiti, uključujući čišćenje, kuriranje, normalizaciju i označavanje.
- Analizirati strukturirane i nestrukturirane podatke radi prepoznavanja trendova, klastera, anomalija, obitelji napada, tehnika zaobilaženja zaštite i novih obrazaca.
- Izrađivati modele strojnog učenja i prediktivne algoritme koji automatiziraju procese crvenog testiranja.
- Razvijati cjevovode za evaluaciju i praćenje radi mjerenja uspješnosti napada i usporedbe ponašanja modela među pružateljima.
- Primjenjivati statističke metode i eksperimente za provjeru nalaza te podršku točnim i ponovljivim rezultatima.
- Prenositi istraživanja u produkciju putem pouzdanih i skalabilnih sustava projektiranih za učinkovitost troškova i latencije, uz testiranje, CI/CD i telemetriju.
Zahtjevi
- Najmanje pet godina praktičnog iskustva u podatkovnoj znanosti ili strojnom učenju uz korištenje Pythona ili R-a i SQL-a.
- Najmanje tri godine iskustva sa Scikit-Learnom i PyTorchem.
- Praktično iskustvo u GenAI crvenom testiranju, adversarijalnom testiranju ili sigurnosti LLM-ova.
- Iskustvo u izgradnji i implementaciji sustava temeljenih na LLM-ovima ili strojnom učenju u produkciji.
- Izvrsno poznavanje obrazaca dizajna LLM-ova, uključujući projektiranje promptova, pozivanje alata, strukturirane izlaze i RAG.
- Izvrsno razumijevanje klasteriranja, embeddinga i NLP-a, semantičke sličnosti te otkrivanja anomalija ili novosti.
- Iskustvo u razvoju sustava za klasifikaciju, rangiranje ili određivanje prioriteta.
- Čvrsti temelji iz statistike, eksperimentalnog dizajna i evaluacije modela.
- Iskustvo s alatima Cradle, Apache Hadoop i Spark te razvojem velikih ETL procesa i podatkovnih cjevovoda.
- Magisterij iz računalnih znanosti, elektrotehničkog inženjerstva, matematike, statistike ili srodnog područja.
- Doktorat je prednost, ali nije uvjet.