Dirbtinio intelekto saugos ekspertas – anglų ir maratų kalbos (nuotolinė sutartis)
„Mercor“ ieško anglų ir maratų kalbas laisvai mokančio dirbtinio intelekto saugos eksperto pokalbių DI sistemų red team testavimui. Sutartiniame darbe daugiausia dėmesio skiriama priešiškam testavimui, pažeidžiamumų analizei ir aiškioms ataskaitoms apie žmogaus duomenų bei pažangiausio DI projektus.
Aprašymas
- Testuokite pokalbių DI modelius ir agentus, vertindami jų atsparumą jailbreak bandymams, prompt injection atakoms, netinkamo naudojimo scenarijams, šališkumo išnaudojimui ir kelių etapų manipuliacijai
- Kurkite žmogaus duomenų išteklius žymėdami nesėkmes, klasifikuodami pažeidžiamumus ir nustatydami sistemines rizikas
- Naudokite nusistovėjusias taksonomijas, lyginamuosius testus ir veiksmų vadovus, kad vertinimai būtų nuoseklūs
- Pateikite atkuriamus atakų atvejus, duomenų rinkinius ir klientams skirtas ataskaitas
- Vertinkite DI atsakymus jautriomis temomis, įskaitant šališkumą, dezinformaciją ir žalingą elgesį
- Raskite silpnąsias vietas, kurių gali nepastebėti automatiniai vertinimo metodai
- Išplėskite testavimo aprėptį, kad padėtumėte išvengti netikėtų gamybos problemų
- Padėkite klientams gerinti jų DI sistemų saugą, atsparumą ir patikimumą
- Dirbkite su pirmaujančiais tyrėjais iniciatyvose, skirtose pažangiausiems DI modeliams mokyti ir tobulinti
Reikalavimai
- Gimtoji arba laisvai mokama anglų ir maratų kalba
- Geras sprendimų priėmimas vertinant kalbą ir turinį
- Gebėjimas nustatyti, ar DI atsakymai yra tikslūs, išsamūs ir tinkami, bei aiškiai tai paaiškinti
- Kruopštumas pastebint subtilias klaidas, neatitikimus ir praleidimus
- Patikimas testavimo gairių ir kokybės reikalavimų laikymasis
- Gebėjimas aiškiai paaiškinti savo samprotavimą techninei ir netechninei auditorijai
- Lankstumas dirbant su įvairiais projektais, užduotimis ir klientais
- Gebėjimas dirbti savarankišku rangovu
- Neturi reikėti H-1B arba STEM OPT rėmimo
- Privalumu laikoma priešiškojo mašininio mokymosi patirtis dirbant su jailbreak duomenų rinkiniais, prompt injection, RLHF ar DPO atakomis arba modelių išgavimu
- Privalumu laikoma kibernetinio saugumo patirtis atliekant įsiskverbimo testavimą, kuriant išnaudojimus arba vykdant atvirkštinę inžineriją
- Privalumu laikoma sociotechninės rizikos patirtis tiriant priekabiavimą ar dezinformaciją, analizuojant piktnaudžiavimą arba testuojant pokalbių DI
- Privalumu laikoma psichologijos, aktorystės arba rašymo patirtis, padedanti mąstyti neįprastai išpuolių vykdytojo perspektyva
Privalumai
- Visiškai nuotolinis darbas pagal sutartį
- Lankstus grafikas, leidžiantis patiems nustatyti darbo valandas
- Savaitiniai mokėjimai per „Stripe“ arba „Wise“
- Projekto trukmė gali keistis arba projektas gali būti baigtas anksčiau, atsižvelgiant į verslo poreikius ir darbo rezultatus
- Galimybė savanoriškai dalyvauti projektuose, kuriuose nagrinėjamas jautresnis turinys
- Aiškios gairės ir gerovės ištekliai užduotims, susijusioms su jautriu turiniu
- Pagrįstos pritaikymo priemonės teikiamos jų paprašius
- Iki 90 JAV dolerių rekomendavimo išmoka už kiekvieną sėkmingą rekomendaciją