DI saugos red team ekspertas – anglų ir suomių kalbos, nuotolinis darbas Jungtinėse Valstijose
Atlikite pokalbių DI modelių ir agentų priešiškąjį testavimą „Mercor“ žmogaus duomenimis grindžiamuose DI projektuose. Kurkite atkuriamus pažeidžiamumų duomenis, padedančius stiprinti pažangiausias DI sistemas.
Aprašymas
- Testuokite pokalbių DI modelius ir agentus naudodami jailbreak metodus, promptų injekcijas, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliavimą
- Anotuokite gedimus, kategorizuokite pažeidžiamumus ir nustatykite sistemines rizikas
- Nuosekliam vertinimui taikykite nusistovėjusias taksonomijas, etalonus ir veiksmų vadovus
- Kurkite atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus klientams
- Nustatykite pažeidžiamumus, kurių gali nepastebėti automatinis testavimas
- Plėskite vertinimo aprėptį ir padėkite mažinti netikėtas gamybos problemas
- Dirbkite su pirmaujančiais tyrėjais projektuose, kuriuose mokomos ir tobulinamos DI sistemos
Reikalavimai
- Puikios arba gimtosios anglų ir suomių kalbų žinios
- Ankstesnė red team patirtis priešiškajame DI testavime, kibernetinio saugumo srityje arba sociotechniniame tyrime
- Gebėjimas priešiškai testuoti DI sistemas ir stumti jas link gedimo taškų
- Patirtis taikant sistemas ar etalonus struktūrizuotam testavimui
- Gebėjimas aiškiai komunikuoti rizikas techninei ir netechninei auditorijai
- Gebėjimas prisitaikyti prie skirtingų projektų ir klientų reikalavimų
- Galimybė dirbti nepriklausomu rangovu
- Negalite būti H-1B arba STEM OPT kandidatas
- Privalumas: priešiškojo mašininio mokymosi patirtis, įskaitant jailbreak duomenų rinkinius, promptų injekcijas, RLHF/DPO atakas arba modelio išgavimą
- Privalumas: kibernetinio saugumo patirtis atliekant įsiskverbimo testus, kuriant išnaudojimus arba vykdant atvirkštinę inžineriją
- Privalumas: sociotechninės rizikos patirtis tiriant priekabiavimą ar dezinformaciją, analizuojant piktnaudžiavimą arba testuojant pokalbių DI
- Privalumas: psichologijos, vaidybos arba rašymo patirtis, padedanti mąstyti nestandartiškai ir priešiškai
Privalumai
- Visiškai nuotolinis darbas
- Lankstus darbo grafikas
- Savaitiniai mokėjimai per „Stripe“ arba „Wise“
- Sveikatingumo ištekliai ir aiškios gairės didesnio jautrumo projektams
- Galimybė įgyti patirties atliekant žmogaus duomenimis grindžiamą DI red team testavimą
- Tiesioginė galimybė padėti kurti patikimesnes, saugesnes ir patikimesnes DI sistemas
- Konkurencingas atlygis
- Iki 250 JAV dolerių rekomendacijos premija už kiekvieną sėkmingą rekomendaciją