ActiveFence on küberjulgeoleku- ja tehisintellektiettevõte, mis keskendub veebiplatvormide usaldusväärsusele ja turvalisusele. Selle täislahendus ühendab luureuuringud, tehisintellektil põhineva kahjuliku sisu tuvastamise ja sisu modereerimise tööriistad, aidates platvormidel tegeleda selliste riskidega nagu laste seksuaalne ärakasutamine, väärinfo, vihakõne, terrorism, alastus, pettused ja muud veebis levivad ohud. ActiveFence toetab eri suurusega usalduse ja turvalisuse meeskondi ning aitab kaitsta rohkem kui kolme miljardit kasutajat kogu maailmas enam kui sajas keeles.
Vanem GenAI andmeteadlane ettevõttes ActiveFence (hübriidtöö, Iisrael)
Vanem GenAI andmeteadlase roll keskendub automatiseeritud red team’i testimisele, masinõppele ja suuremahulisele andmeanalüüsile. Loo süsteeme, mis aitavad tuvastada uusi turbeohte veebikogemustes ja tehisintellekti toodetes.
Kirjeldus
- Tööta välja skaleeruvad andmeteaduse agendid, mis suudavad arutleda mitmeetapiliste töövoogude üle ja neid käivitada vastasrünnete genereerimiseks ning analüüsimiseks.
- Halda ja tõlgenda red team’i kampaaniate, mudelite hindamiste ja sünteetiliste rünnete käskude ning vastuste andmeid, sealhulgas puhastamist, kureerimist, normaliseerimist ja märgendamist.
- Uuri struktureeritud ja struktureerimata andmeid, et tuvastada suundumusi, klastreid, anomaaliaid, ründeperekondi, jailbreak-tehnikaid ja uusi mustreid.
- Loo masinõppemudeleid ja ennustusalgoritme, mis automatiseerivad red team’i protsesse.
- Tööta välja hindamis- ja seirekonveiereid, et mõõta rünnete edukust ja võrrelda mudelite käitumist eri teenusepakkujate vahel.
- Rakenda statistilisi meetodeid ja eksperimente leidude kontrollimiseks ning täpsete ja korratavate tulemuste toetamiseks.
- Vii teadustöö tootmisse usaldusväärsete ja skaleeruvate süsteemide abil, mis on kavandatud kulude ja latentsuse tõhusaks haldamiseks ning mida toetavad testimine, CI/CD ja telemeetria.
Nõuded
- Vähemalt viis aastat praktilist kogemust andmeteaduse või masinõppega, kasutades Pythonit või R-i ja SQL-i.
- Vähemalt kolm aastat kogemust Scikit-Learni ja PyTorchiga.
- Praktiline kogemus GenAI red team’i testimise, vastasrünnete testimise või LLM-turbe valdkonnas.
- Kogemus tootmiskeskkonnas kasutatavate LLM-põhiste või masinõppesüsteemide loomise ja juurutamisega.
- Põhjalikud teadmised LLM-i disainimustritest, sealhulgas prompt engineering’ust, tööriistade kutsumisest, struktureeritud väljunditest ja RAG-ist.
- Põhjalik arusaam klasterdamisest, embedding’utest ja NLP-st, semantilisest sarnasusest ning anomaaliate või uudsuse tuvastamisest.
- Kogemus klassifitseerimis-, järjestus- või prioriseerimissüsteemide arendamisega.
- Tugev alus statistikas, eksperimentide kavandamises ja mudelite hindamises.
- Kogemus Cradle’i, Apache Hadoopi ja Sparki ning suuremahulise ETL-i ja andmekonveierite arendamisega.
- Arvutiteaduse, elektrotehnika, matemaatika, statistika või seotud eriala magistrikraad.
- Doktorikraad tuleb kasuks, kuid ei ole nõutav.