ActiveFence on kyberturvallisuus- ja tekoälyyritys, joka keskittyy verkkopalvelujen luottamukseen ja turvallisuuteen. Sen kokonaisvaltainen ratkaisu yhdistää tiedustelututkimuksen, tekoälypohjaisen haitallisen sisällön tunnistamisen ja sisällön moderointityökalut, joiden avulla alustat voivat hallita esimerkiksi lasten hyväksikäyttöön, disinformaatioon, vihapuheeseen, terrorismiin, alastomuuteen, petoksiin ja muihin verkkohaittoihin liittyviä riskejä. ActiveFence tukee erikokoisia luottamus- ja turvallisuustiimejä ja auttaa suojaamaan yli kolmea miljardia käyttäjää maailmanlaajuisesti yli sadalla kielellä.
Vanhempi tekoälytutkija – hybridityö Israelissa
Johda vahvistusoppimisen arviointeja, red team -harjoituksia ja avoimien painojen tekoälymallien tietoturvatarkastuksia. Rakenna vertailu- ja jälkikoulutusputkia ActiveFencen tekoälyn luottamusta, turvallisuutta ja tietoturvaa koskevaan työhön.
Kuvaus
- Johda avoimien painojen mallien jälkikoulutuksen arviointeja, red team -harjoituksia ja vahvistusoppimisen ympäristöjen tarkastuksia
- Suunnittele tarkat vertailumenetelmät
- Arvioi suuria kielimalleja kehittyneitä uhkia, kuten epäsuoran prompt-injektion hyökkäyksiä, vastaan
- Rakenna jälkikoulutuksen arviointiputkia, jotka mittaavat realistisia huipputason tietoturvaominaisuuksia
- Suorita jälkikoulutuskokeita, kuten GRPO-kokeita, avoimien painojen yleismalleilla tietoturvapainotteisissa vahvistusoppimisympäristöissä
- Tarkastele reaaliaikaisia häviökäyriä ja suoritusjälkiä palkkion manipuloinnin, laiskan politiikan konvergenssin ja puutteellisesti määriteltyjen verifioijien havaitsemiseksi
- Arvioi työtehtävien ja monikierroksisten ympäristöjen realismia, uhkamallin tarkkuutta, datan jakaumaa ja aineiston tasapainoa, kun niihin liittyy työkalujen käyttöä, verkkoselausta ja tietokoneen käyttöä
- Laadi arviointikortteja, jotka kattavat tarkistuspisteiden suorituskyvyn parannukset, vikatilat, suoritusjälkien tokenit ja vuorot sekä tehtävätason onnistumisprosentit
- Integroi Docker-ympäristöt, mukaan lukien Harbor-muotoiset ympäristöt, sisäisiin koulutuskehyksiin
- Paranna nollauksen ja tilallisuuden semantiikkaa, samanaikaisuutta ja läpimenorajoja
Vaatimukset
- Ylemmän korkeakoulututkinnon tai tohtorintutkinnon suorittaminen datatieteessä, koneoppimisessa tai tietojenkäsittelytieteessä tai vastaava käytännön kokemus syväoppimisesta
- Käytännön kokemus laajamittaisten mallien kouluttamisesta vahvistusoppimisalgoritmeilla, kuten GRPO:lla tai PPO:lla, avoimien painojen arkkitehtuureissa
- Vahva tietämys suurten kielimallien haavoittuvuuksista, red team -käytännöistä ja epäsuorien prompt-injektiohyökkäysten vastaisesta puolustavasta linjauksesta
- PyTorchin, Docker-kontitustekniikan ja hajautettujen koulutusarkkitehtuurien hyvä hallinta
- Kyky tulkita agenttien suoritusjälkiä, luoda deterministisiä arviointikriteerejä ja verifioijia sekä selvittää monimutkaisia palkkionmuokkauksen ongelmia
- Kokemus vakiomuotoisista vahvistusoppimisen ympäristöistä, kuten Harborista, katsotaan eduksi
- Kokemus monimutkaisten agenttityönkulkujen arvioinnista työkaluja käyttävissä tai verkkoselainympäristöissä katsotaan eduksi
- Llama- tai Mistral-tyyppisten avoimien painojen mallien arvioinnin tuntemus vastakkaisissa työkuormissa katsotaan eduksi