Dirbtinio intelekto saugos ekspertas (anglų ir kanadų kalbos) – nuotolinis darbas JAV pagal sutartį
„Mercor“ ieško dirbtinio intelekto red team specialistų, laisvai kalbančių anglų ir kanadų kalbomis, kurie testuotų pažangiausius modelius dėl pažeidžiamumų. Darbas apima atkuriamų atakų atvejų, vertinimo duomenų rinkinių ir rizikos ataskaitų kūrimą žmogaus duomenimis grindžiamiems DI mokymo projektams.
Aprašymas
- Testuoti pokalbių dirbtinio intelekto modelius ir agentus naudojant jailbreak atakas, komandų injekcijas, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliavimą
- Kurti žmogaus duomenų anotacijas dokumentuojant klaidas, kategorizuojant pažeidžiamumus ir nustatant sistemines rizikas
- Naudoti nusistovėjusias taksonomijas, lyginamuosius rodiklius ir veiksmų vadovus, kad vertinimai būtų nuoseklūs
- Rengti atkuriamas klientams skirtas ataskaitas, duomenų rinkinius ir atakų atvejus
- Vertinti DI atsakymus jautriomis temomis, įskaitant šališkumą, dezinformaciją ir žalingą elgesį
- Tirti DI sistemas, ieškant silpnųjų vietų, kurių automatizuotas testavimas gali nepastebėti
- Plėsti vertinimo aprėptį, kad būtų galima padėti riboti netikėtas problemas gamybinėje aplinkoje
- Prisidėti prie pažangiausių modelių mokymo ir tobulinimo „Mercor“ DI laboratorijai bei verslo klientams
Reikalavimai
- Gimtakalbio lygio anglų ir kanadų kalbų mokėjimas
- Gebėjimas priimti pagrįstus sprendimus vertinant, ar DI atsakymai yra tikslūs, išsamūs ir tinkami
- Aiškūs komunikacijos įgūdžiai paaiškinant samprotavimą techninei ir netechninei auditorijai
- Kruopštus dėmesys subtilioms klaidoms, neatitikimams ir praleidimams
- Nuoseklus taksonomijų, lyginamųjų rodiklių, veiksmų vadovų, gairių ir kokybės standartų taikymas
- Lankstumas dirbant su skirtingais projektais, užduočių formatais ir klientais
- Gebėjimas dirbti savarankišku rangovu
- Negalima reikalauti H-1B ar STEM OPT rėmimo; šie rėmimo būdai nepalaikomi
- Privalumu laikoma atitinkama patirtis priešiškojo mašininio mokymosi, kibernetinio saugumo, sociotechninės rizikos, pokalbių DI testavimo, psichologijos, aktorystės ar netradicinio priešiškojo rašymo srityse
Privalumai
- Dirbti visiškai nuotoliniu būdu ir lanksčiai pasirinkti savo darbo grafiką
- Už suteiktas paslaugas gauti savaitinius mokėjimus per „Stripe“ arba „Wise“
- Pasirinkti, ar dalyvauti projektuose, kuriuose nagrinėjamas itin jautrus turinys
- Gauti aiškias gaires ir gerovės išteklius užduotims su jautriu turiniu
- Gauti konkurencingą atlygį
- Įgyti praktinės patirties žmogaus duomenimis grindžiamame DI red teaming’e
- Bendradarbiauti su pirmaujančiais tyrėjais
- Prireikus prašyti pagrįstų pritaikymų
- Už kiekvieną sėkmingą rekomendaciją uždirbti iki 90 JAV dolerių rekomendacijos išmoką