Nuotolinis dirbtinio intelekto saugos ekspertas (anglų ir kanadų kalbos)
Testuokite pažangiausius „Mercor“ dirbtinio intelekto modelius naudodami anglų ir kanadų kalbų įvestis, kad nustatytumėte pažeidžiamumus. Kurkite atkuriamus saugos duomenis, atakų atvejus ir ataskaitas dirbtinio intelekto klientams.
Aprašymas
- Testuokite pokalbių dirbtinio intelekto modelius ir agentus naudodami jailbreak scenarijus, komandų injekcijas, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių pokalbio etapų manipuliaciją
- Kurkite žmonių parengtus duomenis, žymėdami klaidas, skirstydami pažeidžiamumus į kategorijas ir nustatydami sistemines rizikas
- Naudokite nusistovėjusias taksonomijas, lyginamuosius testus ir veiksmų vadovus, kad vertinimai būtų nuoseklūs
- Renkite atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus, kuriuos galėtų naudoti klientai
- Vertinkite dirbtinio intelekto išvestis jautriomis temomis, įskaitant šališkumą, dezinformaciją ir žalingą elgesį
- Raskite silpnąsias vietas, kurių gali nepastebėti automatiniai vertinimai
- Plėskite vertinimo aprėptį, kad padėtumėte išvengti netikėtų problemų gamybinėje aplinkoje
- Prisidėkite prie projektų, skirtų „Mercor“ dirbtinio intelekto laboratorijos ir verslo klientų dirbtinio intelekto sistemoms mokyti bei tobulinti
Reikalavimai
- Gimtoji arba laisva anglų ir kanadų kalbų mokėjimo kompetencija
- Gebėjimas tinkamai spręsti vertinant kalbą ir turinį, įskaitant dirbtinio intelekto atsakymų tikslumą, išsamumą ir tinkamumą
- Gebėjimas aiškiai perteikti savo samprotavimus techninei ir netechninei auditorijai
- Kruopštus dėmesys subtilioms klaidoms, neatitikimams ir praleidimams
- Gebėjimas nuosekliai taikyti taksonomijas, lyginamuosius testus, veiksmų vadovus, gaires ir kokybės standartus
- Lankstumas dirbant su įvairiais projektais, užduočių formatais ir klientais
- Būtina dirbti kaip nepriklausomam rangovui
- Kandidatai neturi siekti H-1B arba STEM OPT statuso
- Privalumu laikoma priešiškojo mašininio mokymosi patirtis, įskaitant jailbreak duomenų rinkinius, komandų injekcijas, RLHF arba DPO atakas ar modelio išgavimą
- Privalumu laikoma kibernetinio saugumo patirtis, pavyzdžiui, įsiskverbimo testavimas, išnaudojimų kūrimas ar atvirkštinė inžinerija
- Privalumu laikoma sociotechninės rizikos patirtis, pavyzdžiui, priekabiavimo ar dezinformacijos tyrimas, piktnaudžiavimo analizė ar pokalbių dirbtinio intelekto testavimas
- Privalumu laikoma psichologijos, vaidybos ar rašymo patirtis, padedanti mąstyti neįprastai ir priešiškai
Privalumai
- Visiškai nuotolinis darbas pagal sutartį, suteikiantis galimybę lanksčiai planuoti laiką
- Mokėjimai kas savaitę per „Stripe“ arba „Wise“, atsižvelgiant į suteiktas paslaugas
- Galimybė įgyti patirties žmogaus kuriamais duomenimis pagrįsto dirbtinio intelekto saugos testavimo srityje
- Reikšmingas indėlis siekiant, kad dirbtinio intelekto sistemos būtų atsparesnės, saugesnės ir patikimesnės
- Sveikatingumo ištekliai ir aiškios gairės projektams, kuriuose nagrinėjamas jautresnis turinys
- Paprašius gali būti suteiktos tinkamos pritaikymo priemonės
- Už kiekvieną sėkmingą rekomendaciją gali būti išmokėta iki 90 JAV dolerių, laikantis taikomų apribojimų