Dirbtinio intelekto saugumo ekspertas, anglų ir olandų kalbos (nuotolinė sutartis)
„Mercor“ ieško angliškai ir olandiškai kalbančių dirbtinio intelekto saugumo ekspertų pokalbių modeliams ir agentams testuoti taikant red teaming metodiką. Darbas apima pažeidžiamumų duomenų ir atakų scenarijų kūrimą bei atkuriamų saugumo ataskaitų rengimą pažangiausio dirbtinio intelekto plėtrai.
Aprašymas
- Testuokite pokalbių dirbtinio intelekto modelius ir agentus naudodami jailbreak metodus, prompt injection, netinkamo naudojimo scenarijus, šališkumo išnaudojimą ir kelių etapų manipuliavimą
- Kurkite žmonių generuojamus duomenis žymėdami gedimus, klasifikuodami pažeidžiamumus ir nustatydami sistemines rizikas
- Naudokite taksonomijas, lyginamuosius testus ir metodikas nuosekliam saugumo testavimui
- Renkite klientams atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus
- Raskite pažeidžiamumus, kurių gali nepastebėti automatinis testavimas
- Plėskite vertinimo aprėptį, kad sumažintumėte netikėtas rizikas gamybinėje aplinkoje
- Dirbkite su pirmaujančiais tyrėjais, kad mokytumėte ir tobulintumėte pažangias dirbtinio intelekto sistemas
Reikalavimai
- Gimtoji anglų ir olandų kalbų mokėjimo kompetencija
- Ankstesnė darbo su dirbtinio intelekto red teaming, kibernetinio saugumo priešiškuoju testavimu arba sociotechniniu tyrimu patirtis
- Gebėjimas priešiškai testuoti dirbtinio intelekto sistemas ir nukreipti jas į gedimo sąlygas
- Patirtis taikant sistemas ar lyginamuosius testus struktūruotam testavimui
- Gebėjimas aiškiai komunikuoti rizikas techninei ir netechninei auditorijai
- Gebėjimas prisitaikyti prie skirtingų projektų ir klientų
- Priešiškojo mašininio mokymosi patirtis dirbant su jailbreak duomenų rinkiniais, prompt injection, RLHF/DPO atakomis ar modelio išgavimu būtų privalumas
- Kibernetinio saugumo patirtis atliekant įsiskverbimo testus, kuriant išnaudojimo priemones ar vykdant atvirkštinę inžineriją būtų privalumas
- Sociotechninės rizikos patirtis, įskaitant priekabiavimo ar dezinformacijos tyrimą, piktnaudžiavimo analizę ar pokalbių dirbtinio intelekto testavimą, būtų privalumas
- Kūrybinio tyrimo patirtis psichologijos, vaidybos ar rašymo srityse būtų privalumas
- Turite galėti dirbti kaip nepriklausomas rangovas
- H-1B ir STEM OPT kandidatams parama neteikiama
Privalumai
- Visiškai nuotolinis darbas
- Lankstus grafikas, leidžiantis patiems nustatyti darbo valandas
- Savaitiniai mokėjimai per „Stripe“ arba „Wise“, atsižvelgiant į suteiktas paslaugas
- Projektai, atsižvelgiant į verslo poreikius ir darbo rezultatus, gali būti pratęsti, sutrumpinti arba nutraukti anksčiau
- Dalyvavimas didesnio jautrumo projektuose yra neprivalomas
- Teikiamos turinio gairės ir gerovės ištekliai
- Paprašius suteikiamos pagrįstos pritaikymo priemonės
- Konkurencingas valandinis atlygis
- Galimybė gauti iki 250 JAV dolerių už kiekvieną sėkmingą rekomendaciją, taikant nustatytus apribojimus