DI saugos ekspertas (anglų ir tamilų kalbos) – nuotolinio darbo sutartis
„Mercor“ ieško angliškai ir tamilų kalba kalbančio DI saugos eksperto pokalbių modeliams ir agentams testuoti taikant red teaming metodą. Sutartinis darbas apima pažeidžiamumų nustatymą, vertinimo duomenų kūrimą ir atkuriamų saugos ataskaitų rengimą.
Aprašymas
- Atlikite pokalbių DI modelių ir agentų priešišką testavimą, naudodami jailbreak metodus, raginimų injekcijas, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliaciją.
- Kurkite žmonių sugeneruotus duomenis, žymėdami klaidas, klasifikuodami pažeidžiamumus ir nustatydami sistemines rizikas.
- Naudokite nusistovėjusias taksonomijas, etalonus ir veiksmų planus, kad vertinimai būtų nuoseklūs.
- Pateikite klientams atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus.
- Vertinkite DI rezultatus jautriomis temomis, įskaitant šališkumą, dezinformaciją ir žalingą elgesį.
- Nustatykite silpnąsias vietas, kurių automatiniai vertinimo metodai gali nepastebėti.
- Išplėskite vertinimo aprėptį, kad padėtumėte sumažinti netikėtas gamybos problemas.
- Tobulinkite klientų DI sistemas atlikdami struktūruotą priešišką testavimą.
Reikalavimai
- Gimtoji arba puiki anglų ir tamilų kalbų kompetencija.
- Geras sprendimų priėmimas vertinant kalbą ir turinį.
- Gebėjimas nustatyti, ar DI atsakymai yra tikslūs, išsamūs ir tinkami, bei paaiškinti tokio vertinimo priežastis.
- Didelis dėmesys subtilioms klaidoms, neatitikimams ir praleidimams.
- Nuoseklus gairių ir kokybės standartų laikymasis.
- Gebėjimas aiškiai paaiškinti savo samprotavimus tiek techninei, tiek netechninei auditorijai.
- Gebėjimas prisitaikyti prie įvairių projektų, užduočių formatų ir klientų.
- Gebėjimas dirbti kaip nepriklausomam rangovui.
- H1-B ir STEM OPT kandidatams parama neteikiama.
- Privalumu laikoma priešiškojo mašininio mokymosi patirtis, įskaitant darbą su jailbreak duomenų rinkiniais, raginimų injekcijomis, RLHF ar DPO atakomis arba modelių išgavimu.
- Privalumu laikoma kibernetinio saugumo patirtis atliekant įsiskverbimo testus, kuriant išnaudojimus ar vykdant atvirkštinę inžineriją.
- Privalumu laikoma sociotechninės rizikos patirtis, susijusi su priekabiavimo ar dezinformacijos tyrimu, piktnaudžiavimo analize arba pokalbių DI testavimu.
- Privalumu laikoma kūrybinio tyrinėjimo patirtis psichologijos, vaidybos ar rašymo srityse.
Privalumai
- Visiškai nuotolinis darbas.
- Lankstus grafikas ir galimybė pačiam pasirinkti darbo valandas.
- Savaitiniai mokėjimai per „Stripe“ arba „Wise“.
- Galimybė savo noru dalyvauti didesnio jautrumo projektuose.
- Aiškios gairės ir gerovės ištekliai dirbant su jautriu turiniu.
- Konkurencingas valandinis atlygis.
- Galimybė bendradarbiauti su pirmaujančiais tyrėjais.
- Už kiekvieną sėkmingą rekomendaciją gali būti mokama iki 90 JAV dolerių rekomendacijos išmoka, laikantis taikomų ribų.
- Paprašius gali būti suteiktos tinkamos sąlygos.