Nuotolinis dirbtinio intelekto saugos ekspertas – anglų ir asamų kalbos (sutartinis darbas)
„Mercor“ ieško nuotoliniu būdu dirbančio sutartinio dirbtinio intelekto saugos eksperto, laisvai kalbančio angliškai ir asamiškai, kuris testuotų pažangiausius modelius taikydamas red-team metodus, vertintų pažeidžiamumus ir kurtų aukštos kokybės žmogaus parengtus duomenis dirbtinio intelekto saugos projektams.
Aprašymas
- Testuoti pokalbių dirbtinio intelekto modelius ir agentus naudojant jailbreak atakas, raginimų įterpimą, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliavimą
- Kurti žmogaus sužymėtus duomenis komentuojant klaidas, skirstant pažeidžiamumus į kategorijas ir nustatant sistemines rizikas
- Naudoti taksonomijas, lyginamuosius kriterijus ir veiksmų vadovus, kad vertinimai būtų nuoseklūs
- Rengti atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus klientams
- Vertinti dirbtinio intelekto rezultatus jautriomis temomis, įskaitant šališkumą, klaidingą informaciją ir žalingą elgesį
- Nustatyti pažeidžiamumus, kurių neaptinka automatinis testavimas
- Plėsti vertinimo aprėptį, kad būtų sumažinta netikėtų problemų gamybinėje aplinkoje
- Prisidėti prie projektų, kuriuose kuriamos ir tobulinamos pažangiausios dirbtinio intelekto sistemos
Reikalavimai
- Gimtosios kalbos lygio anglų ir asamų kalbų mokėjimas
- Sveikas sprendimas vertinant kalbos ir turinio kokybę
- Gebėjimas nustatyti, ar dirbtinio intelekto atsakymai yra tikslūs, išsamūs ir tinkami
- Gebėjimas aiškiai paaiškinti savo samprotavimus techninei ir netechninei auditorijai
- Išskirtinis dėmesys subtilioms klaidoms, neatitikimams ir praleidimams
- Gebėjimas nuosekliai taikyti gaires, taksonomijas, lyginamuosius kriterijus, veiksmų vadovus ir kokybės standartus
- Lankstumas dirbant su įvairiais projektais, užduočių formatais ir klientų poreikiais
- Privaloma dirbti kaip nepriklausomam rangovui
- Šiuo metu negalima teikti paramos H-1B ir STEM OPT kandidatams
- Pageidaujamos kompetencijos sritys: priešiškasis mašininis mokymasis, kibernetinis saugumas, sociotechninė rizika, pokalbių dirbtinio intelekto vertinimas, psichologija, vaidyba ir rašymas
Privalumai
- Dirbti visiškai nuotoliniu būdu
- Nusistatyti sau tinkamą darbo grafiką
- Gauti savaitinius mokėjimus per „Stripe“ arba „Wise“
- Įgyti praktinės patirties vykdant žmogaus duomenimis grindžiamą dirbtinio intelekto red-team testavimą
- Padėti kurti atsparesnes, saugesnes ir patikimesnes dirbtinio intelekto sistemas
- Bendradarbiauti su pirmaujančiais dirbtinio intelekto tyrėjais
- Paprašius suteikiamos tinkamos pritaikymo priemonės
- Už kiekvieną sėkmingą rekomendaciją gauti iki 90 JAV dolerių rekomendacijos išmoką, atsižvelgiant į taikomus apribojimus