DI saugos raudonojo testavimo specialistas – nuotolinė sutartis (Jungtinės Valstijos)
„Mercor“ ieško DI saugos raudonojo testavimo specialisto, kuris priešišku testavimu padėtų atskleisti pažangių DI modelių pažeidžiamumus. Darbas apima užklausų kūrimą ir didelės rizikos modelių elgsenos vertinimą kartu su DI saugos tyrėjais.
Aprašymas
- Kurk priešiškas užklausas pažangiems DI modeliams išbandyti
- Nustatyk įsilaužimo į apsaugas bandymus, nesaugią elgseną, haliucinacijas ir politikos pažeidimus
- Vertink modelių atsparumą dezinformacijos, kibernetinio saugumo, biologinio saugumo, sukčiavimo, politinio turinio ir kitose jautriose srityse
- Registruok pažeidžiamumus ir prisidėk prie saugos etalonų bei raudonojo testavimo ataskaitų rengimo
- Bendradarbiauk su DI tyrėjais stiprinant modelių suderinamumą, atsparumą ir saugą
- Prisidėk prie projektų, skirtų DI sistemoms mokyti ir tobulinti
Reikalavimai
- Aukštasis universitetinis išsilavinimas arba aukštesnis laipsnis kompiuterių mokslo, kibernetinio saugumo, žurnalistikos, komunikacijos, psichologijos, biologijos, chemijos, viešosios politikos ar susijusioje srityje
- Bent penkerių metų profesinė patirtis DI saugos, DI raudonojo testavimo, pasitikėjimo ir saugos, kibernetinio saugumo, tiriamosios žurnalistikos, gyvybės mokslų ar susijusioje srityje
- Stiprūs analitinio mąstymo, užklausų kūrimo ir rašytinės komunikacijos gebėjimai
- Patirtis kuriant priešiškas užklausas arba vertinant pažangias DI sistemas
- Privalumu laikoma patirtis DI raudonojo testavimo, RLHF, SFT, DI suderinamumo ar pasitikėjimo ir saugos srityse
- Privalumu laikomos žinios apie įsilaužimo į apsaugas testavimą, užklausų inžineriją ar priešiško vertinimo metodus
- Privalumu laikoma patirtis vienoje ar keliose pilkosios zonos srityse, tokiose kaip kibernetinis saugumas, biologinis saugumas, politinis turinys, dezinformacija ar mokslinių tyrimų sauga
- Gebėjimas dirbti nepriklausomu rangovu
- H-1B ir STEM OPT kandidatams parama neteikiama
Privalumai
- Visiškai nuotolinis darbas
- Lankstus darbo grafikas
- Savaitiniai mokėjimai per „Stripe“ arba „Wise“
- Projektai, atsižvelgiant į verslo poreikius ir darbo rezultatus, gali būti pratęsti, sutrumpinti arba baigti anksčiau
- Priešiško testavimo darbas su pirmaujančiais DI tyrėjais ir saugos komandomis
- Galimybė prisidėti prie to, kaip DI sistemos sprendžia sudėtingus realaus pasaulio saugos iššūkius
- Esant poreikiui teikiamos tinkamos pritaikymo priemonės
- Už sėkmingą rekomendaciją mokamos iki 340 JAV dolerių rekomendavimo išmokos, taikant rekomendacijų ribas