DI saugos ekspertas (anglų ir telugų kalbos) – nuotolinio darbo sutartis
Atlikite „Mercor“ pokalbių DI modelių ir agentų red team vertinimus, daugiausia dėmesio skirdami anglų ir telugų kalbų saugai. Kurkite pažeidžiamumų duomenis, atakų atvejus ir atkuriamas ataskaitas, padedančias kurti saugesnį DI.
Aprašymas
- Testuokite pokalbių DI modelius ir agentus naudodami jailbreak metodus, komandų injekcijas, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliavimą
- Anotuokite nesėkmes, klasifikuokite pažeidžiamumus ir nustatykite sistemines rizikas
- Naudokite taksonomijas, etalonus ir veiksmų vadovus, kad vertinimai būtų nuoseklūs
- Kurkite klientams atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus
- Vertinkite DI išvestis, susijusias su šališkumu, dezinformacija, žalingu elgesiu ir kitomis jautriomis temomis
- Prisidėkite prie projektų, kuriuose mokomos ir tobulinamos DI sistemos
- Nustatykite pažeidžiamumus, kurių neaptinka automatinis testavimas
- Plėskite vertinimo aprėptį, kad sumažintumėte netikėtų problemų gamybinėje aplinkoje riziką
Reikalavimai
- Gimtoji arba puiki anglų ir telugų kalbų mokėjimo kompetencija
- Geras sprendimų priėmimas vertinant, ar DI atsakymai yra tikslūs, išsamūs ir tinkami
- Gebėjimas aiškiai komunikuoti argumentus tiek techninei, tiek netechninei auditorijai
- Kruopštus dėmesys subtilioms klaidoms, neatitikimams ir praleidimams
- Nuoseklus gairių ir kokybės standartų laikymasis
- Lankstumas dirbant su įvairiais projektais, užduočių formatais ir klientais
- Noras dirbti kaip nepriklausomam rangovui
- Negalite būti H-1B arba STEM OPT kandidatas; tinkamos specializacijos gali apimti priešiškąjį mašininį mokymąsi, jailbreak duomenų rinkinius, komandų injekcijas, RLHF/DPO atakas, modelio išgavimą, įsiskverbimo testavimą, išnaudojimų kūrimą, atvirkštinę inžineriją, priekabiavimo ar dezinformacijos tyrimus, piktnaudžiavimo analizę, pokalbių DI testavimą, psichologiją, aktorystę ar rašymą.
- privalumai
Privalumai
- Dirbkite visiškai nuotoliniu būdu pagal savo pasirinktą grafiką
- Už suteiktas paslaugas gaukite savaitinius mokėjimus per „Stripe“ arba „Wise“
- Įgykite patirties žmogaus duomenimis grindžiamame DI red team testavime, orientuotame į pažangiausią saugą
- Padėkite kurti atsparesnes, saugesnes ir patikimesnes DI sistemas
- Pasirinkite, ar norite dalyvauti didesnio jautrumo projektuose
- Gaukite aiškias gaires ir gerovės išteklius didesnio jautrumo projektams
- Galite prašyti pagrįstų pritaikymų
- Už kiekvieną sėkmingą rekomendaciją uždirbkite iki 90 JAV dolerių; rekomendacijų skaičius neribojamas