Nuotolinis dirbtinio intelekto saugos ekspertas (anglų ir gudžaratų kalbos) – darbas pagal sutartį
„Mercor“ ieško pagal sutartį dirbančio dirbtinio intelekto saugos eksperto, laisvai mokančio anglų ir gudžaratų kalbas, kuris vykdytų pažangių DI modelių atakas imituojantį testavimą. Darbas apima pažeidžiamumų tikrinimą, nesėkmių vertinimą ir atkuriamų duomenų rinkinių bei atakų atvejų kūrimą.
Aprašymas
- Testuoti pokalbių DI modelius ir agentus dėl jailbreak atakų, komandų įterpimo, netinkamo naudojimo scenarijų, šališkumo išnaudojimo ir kelių etapų manipuliavimo
- Kurti žmonių sugeneruotus duomenis žymint nesėkmes, klasifikuojant pažeidžiamumus ir nustatant sistemines rizikas
- Nuosekliems vertinimams atlikti naudoti nusistovėjusias taksonomijas, etalonus ir veiksmų vadovus
- Rengti atkuriamas klientų ataskaitas, duomenų rinkinius ir atakų atvejus
- Vertinti DI išvestis dėl jautrių problemų, įskaitant šališkumą, dezinformaciją ir žalingą elgesį
- Rasti silpnąsias vietas, kurių neaptinka automatinis testavimas
- Plėsti vertinimo aprėptį, kad būtų padedama išvengti netikėtų problemų gamybinėje aplinkoje
- Prisidėti prie projektų, kuriuose mokomos ir tobulinamos pažangios DI sistemos
Reikalavimai
- Gimtoji arba laisva anglų ir gudžaratų kalbų mokėjimo kompetencija
- Gebėjimas tinkamai spręsti vertinant kalbos ir turinio tikslumą, išsamumą bei tinkamumą
- Gebėjimas aptikti subtilias klaidas, neatitikimus ir praleidimus
- Nuoseklus nustatytų gairių ir kokybės standartų laikymasis
- Gebėjimas aiškiai paaiškinti samprotavimą techninei ir netechninei auditorijai
- Lankstumas dirbant su skirtingais projektais, užduočių formatais ir klientų poreikiais
- Darbas kaip nepriklausomam rangovui
- H-1B ir STEM OPT kandidatai negali dalyvauti
- Privalumas: priešiškojo mašininio mokymosi patirtis dirbant su jailbreak duomenų rinkiniais, komandų įterpimu, RLHF/DPO atakomis ar modelių išgavimu
- Privalumas: kibernetinio saugumo patirtis atliekant įsiskverbimo testavimą, kuriant išnaudojimus ar vykdant atvirkštinę inžineriją
- Privalumas: sociotechninės rizikos patirtis, apimanti priekabiavimo ar dezinformacijos tyrimus, piktnaudžiavimo analizę ar pokalbių DI testavimą
- Privalumas: psichologijos, vaidybos ar rašymo patirtis, padedanti mąstyti netradiciškai ir priešiškai
Privalumai
- Dirbti nuotoliniu būdu iš Jungtinių Amerikos Valstijų
- Pasirinkti jūsų galimybėms tinkantį lankstų grafiką
- Gauti savaitinius mokėjimus per „Stripe“ arba „Wise“
- Pasirinkti dalyvauti didesnio jautrumo projektuose arba juose nedalyvauti
- Gauti aiškias gaires ir gerovės išteklius užduotims, susijusioms su jautriu turiniu
- Konkurencingas valandinis atlygis
- Paprašius gali būti suteiktos tinkamos sąlygos
- Galimybė už kiekvieną sėkmingą rekomendaciją uždirbti iki 90 JAV dolerių, taikant galiojančius apribojimus