DI saugos ekspertas – anglų ir asamų kalbos | „Mercor“ nuotolinio darbo sutartis
Atlikite pažangių DI modelių priešiškąjį testavimą, ieškodami jailbreak, šališkumo, netinkamo naudojimo ir kitų saugos rizikų. „Mercor“ klientams kurkite žmonių duomenų anotacijas, pažeidžiamumų klasifikacijas ir atkuriamus atakų įrodymus.
Aprašymas
- Atlikite pokalbių DI modelių ir agentų priešiškąjį testavimą, ieškodami jailbreak, promptų injekcijų, netinkamo naudojimo, šališkumo išnaudojimo ir kelių etapų manipuliavimo
- Kurkite žmonių duomenų anotacijas, klasifikuokite klaidas ir nustatykite sistemines rizikas
- Naudokite nusistovėjusias taksonomijas, etaloninius testus ir metodikas vertinimams standartizuoti
- Klientams pateikite atkuriamas ataskaitas, duomenų rinkinius ir atakų atvejus
- Vertinkite DI atsakymus apie šališkumą, dezinformaciją, žalingą elgesį ir kitas jautrias temas
- Raskite silpnąsias vietas, kurių neaptinka automatinis testavimas
- Išplėskite vertinimo aprėptį, kad padėtumėte išvengti netikėtų gamybos problemų
- Tobulinkite klientų DI sistemas taikydami struktūruotą priešiškąjį testavimą
Reikalavimai
- Gimtoji anglų ir asamų kalbų mokėjimo kompetencija
- Geras sprendimas vertinant kalbos ir turinio tikslumą, išsamumą bei tinkamumą
- Gebėjimas aptikti subtilias klaidas, neatitikimus ir praleidimus
- Nuoseklus gairių ir kokybės standartų laikymasis
- Aiškus argumentų perteikimas techninei ir netechninei auditorijai
- Lankstumas dirbant su įvairiais projektais, užduočių formatais ir klientų poreikiais
- Privalumas: priešiškojo mašininio mokymosi patirtis dirbant su jailbreak duomenų rinkiniais, promptų injekcijomis, RLHF ar DPO atakomis arba modelių išgavimu
- Privalumas: kibernetinio saugumo patirtis atliekant įsiskverbimo testavimą, kuriant išnaudojimus ar vykdant atvirkštinę inžineriją
- Privalumas: socialinių ir techninių rizikų patirtis tiriant priekabiavimą ar dezinformaciją, analizuojant piktnaudžiavimą arba testuojant pokalbių DI
- Privalumas: psichologijos, vaidybos ar rašymo patirtis, padedanti mąstyti netradiciškai kaip puolėjui
- Privaloma dirbti kaip nepriklausomam rangovui
- H-1B ir STEM OPT kandidatams parama neteikiama
Privalumai
- Dirbkite visiškai nuotoliniu būdu
- Pasirinkite savo darbo grafiką
- Gaukite savaitinius mokėjimus per „Stripe“ arba „Wise“
- Įgykite praktinės patirties žmonių duomenimis grindžiamame DI red teamingo darbe
- Padėkite kurti atsparesnes, saugesnes ir patikimesnes DI sistemas
- Dirbkite su pirmaujančiais tyrėjais
- Paprašius suteikiamos pagrįstos sąlygos
- Už sėkmingą rekomendaciją gaukite iki 90 JAV dolerių