Dirbtinio intelekto saugos red team specialistas – nuotolinis darbas Jungtinėse Valstijose
„Mercor“ ieško nuotoliniu būdu dirbsiančio dirbtinio intelekto saugos red team specialisto, kuris išbandytų pažangiausius DI modelius ir atskleistų pažeidžiamumus didelės rizikos srityse. Sutartinis darbas padeda DI laboratorijoms kurti ir tobulinti pažangias sistemas.
Aprašymas
- Kurk priešiškas užklausas pažangiausiems DI modeliams tirti
- Nustatyk jailbreak bandymus, nesaugų elgesį, haliucinacijas ir politikos pažeidimus
- Vertink modelių atsparumą dezinformacijai, kibernetinėms grėsmėms, biologinio saugumo rizikoms, sukčiavimui, politiniam turiniui ir kitoms jautrioms temoms
- Registruok aptiktus pažeidžiamumus ir padėk rengti saugos etalonus bei red team ataskaitas
- Bendradarbiauk su DI tyrėjais stiprinant modelių suderinamumą, atsparumą ir saugą
- Prisidėk prie projektų, kuriuose DI sistemos mokomos ir tobulinamos
Reikalavimai
- Bakalauro arba aukštesnis laipsnis informatikos, kibernetinio saugumo, žurnalistikos, komunikacijos, psichologijos, biologijos, chemijos, viešosios politikos ar susijusioje srityje
- Bent penkerių metų profesinė patirtis DI saugos, DI red team, pasitikėjimo ir saugos, kibernetinio saugumo, tiriamosios žurnalistikos, gyvybės mokslų ar susijusioje srityje
- Stiprūs analitinio vertinimo, užklausų kūrimo ir rašytinės komunikacijos įgūdžiai
- Patirtis kuriant priešiškas užklausas arba vertinant pažangias DI sistemas
- DI red team, RLHF, SFT, DI suderinamumo arba pasitikėjimo ir saugos patirtis būtų privalumas
- Jailbreak testavimo, užklausų inžinerijos arba priešiško vertinimo metodų išmanymas būtų privalumas
- Bent vienos pilkosios zonos srities, pavyzdžiui, kibernetinio saugumo, biologinio saugumo, politinio turinio, dezinformacijos ar mokslinės saugos, ekspertinės žinios būtų privalumas
- Gebėjimas dirbti nepriklausomu rangovu
- H-1B ir STEM OPT kandidatams parama neteikiama
Privalumai
- Visiškai nuotolinis darbas
- Lankstus, savarankiškai organizuojamas darbo grafikas
- Savaitiniai mokėjimai per „Stripe“ arba „Wise“
- Atsižvelgiant į verslo poreikius ir darbo rezultatus, projektai gali būti pratęsti, sutrumpinti arba užbaigti anksčiau
- Konkurencingas atlygis
- Bendradarbiavimas su pirmaujančiais DI tyrėjais ir saugos komandomis
- Paprašius gali būti suteiktos tinkamos sąlygos
- Už kiekvieną sėkmingą rekomendaciją gali būti mokama iki 340 JAV dolerių rekomendacijos išmoka, laikantis taikomų ribojimų