ActiveFence je podjetje za kibernetsko varnost in umetno inteligenco, ki se osredotoča na zaupanje in varnost spletnih platform. Njegova celovita ponudba združuje obveščevalne raziskave, zaznavanje škodljive vsebine s pomočjo umetne inteligence in orodja za moderiranje vsebin, da platformam pomaga obvladovati tveganja, kot so spolno izkoriščanje otrok, dezinformacije, sovražni govor, terorizem, golota, goljufije in druge oblike spletne škode. ActiveFence podpira ekipe za zaupanje in varnost različnih velikosti ter pomaga varovati več kot tri milijarde uporabnikov po vsem svetu v več kot 100 jezikih.
Višji podatkovni znanstvenik za GenAI pri ActiveFence (hibridno, Izrael)
Delovno mesto višjega podatkovnega znanstvenika za GenAI je osredotočeno na avtomatizirano rdeče testiranje, strojno učenje in obsežno analizo podatkov. Gradili boste sisteme za prepoznavanje nastajajočih varnostnih groženj v spletnih izkušnjah in izdelkih umetne inteligence.
Opis
- Razvijati skalabilne agente podatkovne znanosti, ki obdelujejo večstopenjske delovne tokove in jih izvajajo za ustvarjanje ter analizo adversarnih napadov.
- Upravljati in razlagati podatke o pozivih in odgovorih iz kampanj rdečega testiranja, vrednotenja modelov in sintetičnih napadov, vključno s čiščenjem, kuriranjem, normalizacijo in označevanjem.
- Pregledovati strukturirane in nestrukturirane podatke za prepoznavanje trendov, gruč, anomalij, družin napadov, tehnik zaobidenja zaščit in novih vzorcev.
- Ustvarjati modele strojnega učenja in napovedne algoritme, ki avtomatizirajo procese rdečega testiranja.
- Razvijati cevovode za vrednotenje in spremljanje, ki merijo uspešnost napadov ter primerjajo vedenje modelov pri različnih ponudnikih.
- Uporabljati statistične metode in eksperimente za preverjanje ugotovitev ter zagotavljanje natančnih in ponovljivih rezultatov.
- Raziskave prenašati v produkcijo prek zanesljivih in skalabilnih sistemov, zasnovanih za stroškovno in zakasnitveno učinkovitost ter podprtih s testiranjem, CI/CD in telemetrijo.
Zahteve
- Vsaj pet let praktičnih izkušenj s podatkovno znanostjo ali strojnim učenjem z uporabo Pythona ali R in SQL.
- Vsaj tri leta izkušenj s Scikit-Learn in PyTorch.
- Praktične izkušnje z GenAI rdečim testiranjem, adversarnim testiranjem ali varnostjo LLM.
- Izkušnje z gradnjo in uvajanjem sistemov na osnovi LLM ali strojnega učenja v produkciji.
- Dobro poznavanje vzorcev načrtovanja LLM, vključno z inženiringom pozivov, klicanjem orodij, strukturiranimi izhodi in RAG.
- Dobro razumevanje gručenja, vektorskih vložitev in NLP, semantične podobnosti ter zaznavanja anomalij ali novosti.
- Izkušnje z razvojem sistemov za razvrščanje, rangiranje ali določanje prednostnih nalog.
- Trdni temelji statistike, eksperimentalnega načrtovanja in vrednotenja modelov.
- Izkušnje s Cradle, Apache Hadoop, Spark ter razvojem obsežnih ETL-procesov in podatkovnih cevovodov.
- Magisterij iz računalništva, elektrotehnike, matematike, statistike ali sorodne discipline.
- Doktorat je prednost, vendar ni zahtevan.