51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības red teaminga eksperts (angļu un pandžabu valoda)
Veiciet sarunvalodas MI modeļu un aģentu pretinieka testēšanu angļu un pandžabu valodā. Veidojiet ievainojamību anotācijas, uzbrukumu gadījumus, datu kopas un reproducējamus drošības ziņojumus Mercor cilvēkdatu MI drošības projektiem.
Apraksts
- Izpētiet sarunvalodas MI modeļus un aģentus, izmantojot jailbreak uzbrukumus, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un vairāku kārtu manipulāciju
- Veidojiet cilvēkdatu anotācijas, dokumentējot kļūmes, kategorizējot ievainojamības un identificējot sistēmiskus riskus
- Izmantojiet izveidotas taksonomijas, etalonus un darba rokasgrāmatas, lai nodrošinātu konsekventus novērtējumus
- Piegādājiet klientiem reproducējamus ziņojumus, datu kopas un uzbrukumu gadījumus
- Novērtējiet MI izvadus, kas saistīti ar aizspriedumiem, dezinformāciju, kaitīgu rīcību un citām sensitīvām tēmām
- Paplašiniet novērtējuma tvērumu, lai identificētu ievainojamības, kuras automatizēta testēšana var nepamanīt
- Palīdziet uzlabot klientu MI sistēmu drošību, noturību un uzticamību
Prasības
- Angļu un pandžabu valodas dzimtās valodas vai brīva prasme
- Laba spriestspēja, novērtējot MI radīta satura precizitāti, pilnīgumu un atbilstību
- Spēja pamanīt niansētas kļūdas, neatbilstības un izlaidumus
- Konsekventa vadlīniju, taksonomiju, etalonu, darba rokasgrāmatu un kvalitātes standartu ievērošana
- Spēja skaidri izskaidrot savu pamatojumu gan tehniskai, gan netehniskai auditorijai
- Elastība dažādos projektos, uzdevumu formātos un klientu prasībās
- Spēja strādāt kā neatkarīgam darbuzņēmējam
- H1-B un STEM OPT kandidāti netiek atbalstīti
- Noderīga pieredze pretinieka mašīnmācīšanās, jailbreak datu kopu, uzvedņu injekciju vai RLHF/DPO uzbrukumu, modeļu izvilkšanas, penetrācijas testēšanas, ekspluatācijas izstrādes, reversās inženierijas, uzmākšanās vai dezinformācijas pārbaudes, ļaunprātīgas izmantošanas analīzes, sarunvalodas MI testēšanas, psiholoģijas, aktiermākslas vai netradicionālas pretinieka rakstīšanas jomā
Priekšrocības
- Pilnībā attālināts darbs ar elastīgu, patstāvīgi pārvaldāmu grafiku
- Iknedēļas maksājumi, izmantojot Stripe vai Wise
- Konkurētspējīgs atalgojums
- Labsajūtas resursi un skaidras vadlīnijas paaugstinātas sensitivitātes projektiem
- Pēc pieprasījuma pieejami saprātīgi pielāgojumi
- Ieteikumu maksājumi līdz 90 ASV dolāriem par katru veiksmīgu ieteikumu
- Sadarbības iespējas ar vadošajiem pētniekiem
- Praktiska pieredze cilvēkdatu MI red teaminga darbā MI drošības priekšgalā