DI saugumo ekspertas – anglų ir bengalų kalbos (nuotolinė sutartis)
„Mercor“ ieško angliškai ir bengališkai kalbančio DI saugumo testuotojo, kuris nustatytų pokalbių DI sistemų pažeidžiamumus. Darbas apima atkuriamų atakų atvejų ir žmonių sukurtų duomenų rengimą DI laboratorijoms, mokančioms pažangiausius modelius.
Aprašymas
- Testuok pokalbių DI modelius ir agentus naudodamas jailbreak atakas, prompt injection, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliavimą
- Kurk žmonių sukurtus duomenis žymėdamas klaidas, klasifikuodamas pažeidžiamumus ir nustatydamas sistemines rizikas
- Naudok nustatytas taksonomijas, vertinimo standartus ir metodikas, kad vertinimai būtų nuoseklūs
- Teik klientams atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus
- Vertink DI atsakymus, susijusius su šališkumu, dezinformacija, žalingu elgesiu ir kitomis jautriomis temomis
- Plėsk vertinimo aprėptį ir prisidėk prie saugesnių klientų DI sistemų kūrimo
Reikalavimai
- Gimtoji arba puiki anglų ir bengalų kalbų mokėjimo kompetencija
- Geras sprendimų priėmimas vertinant kalbą ir turinį, įskaitant gebėjimą nustatyti, ar DI atsakymai yra tikslūs, išsamūs ir tinkami, bei paaiškinti savo vertinimą
- Didelis dėmesys subtilioms klaidoms, neatitikimams ir praleidimams
- Patikimas testavimo gairių ir kokybės standartų laikymasis
- Aiškus samprotavimo perteikimas techninei ir netechninei auditorijai
- Pasirengimas prisitaikyti prie skirtingų projektų, užduočių formatų ir klientų
- Gebėjimas dirbti kaip savarankiškam rangovui
- Neturi reikėti H-1B ar STEM OPT rėmimo
- Privalumu laikoma priešiškojo mašininio mokymosi patirtis, susijusi su jailbreak duomenų rinkiniais, prompt injection, RLHF/DPO atakomis ar modelių išgavimu
- Privalumu laikoma kibernetinio saugumo patirtis atliekant įsiskverbimo testavimą, kuriant išnaudojimus ar vykdant atvirkštinę inžineriją
- Privalumu laikoma sociotechninių rizikų patirtis tiriant priekabiavimą ar dezinformaciją, analizuojant piktnaudžiavimą arba testuojant pokalbių DI
- Privalumu laikoma psichologijos, vaidybos ar rašymo patirtis, padedanti mąstyti neįprastai ir priešiškai
Privalumai
- Dirbk visiškai nuotoliniu būdu
- Nusistatyk lankstų grafiką pagal savo galimybes
- Gauk savaitinius mokėjimus per „Stripe“ arba „Wise“
- Pasirink, ar dalyvauti didesnio jautrumo projektuose
- Gauk aiškias gaires ir gerovės išteklius užduotims su jautriu turiniu
- Gauk konkurencingą atlygį
- Įgyk patirties atliekant žmonių duomenimis grindžiamą DI saugumo testavimą
- Bendradarbiauk su pirmaujančiais DI tyrėjais
- Gauk iki 90 JAV dolerių rekomendavimo išmoką už kiekvieną sėkmingą rekomendaciją