51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības red team eksperts (angļu un pandžabu valoda)
Mercor meklē angļu un pandžabu valodā runājošu mākslīgā intelekta drošības ekspertu sarunvalodas modeļu un aģentu red team testēšanai. Līguma darbs ietver ievainojamību atklāšanu, uzbrukumu gadījumu izveidi un reproducējamu drošības pārskatu sagatavošanu mākslīgā intelekta pētniecības klientiem.
Apraksts
- Testēt sarunvalodas mākslīgā intelekta modeļus un aģentus, izmantojot jailbreak uzbrukumus, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un vairāku kārtu manipulāciju
- Novērtēt modeļu rezultātus sensitīvās tēmās, tostarp aizspriedumus, dezinformāciju un kaitīgu rīcību
- Dokumentēt kļūmes, kategorizēt ievainojamības un identificēt sistēmiskos riskus
- Izmantot izveidotas taksonomijas, etalonus un rokasgrāmatas, lai nodrošinātu konsekventus novērtējumus
- Izveidot klientiem reproducējamus pārskatus, datu kopas un uzbrukumu gadījumus
- Izpētīt mākslīgā intelekta sistēmas, lai atrastu vājās vietas, ko automatizēta testēšana var nepamanīt
- Paplašināt novērtēšanas tvērumu, lai palīdzētu ierobežot negaidītas problēmas ražošanas vidē
- Pilnveidot klientu mākslīgā intelekta sistēmas, izmantojot cilvēka vadītu, datos balstītu red team testēšanu
Prasības
- Angļu un pandžabu valodas dzimtā vai brīva prasme
- Spēja pieņemt pamatotus lēmumus, novērtējot valodu un saturu
- Spēja noteikt, vai mākslīgā intelekta atbildes ir precīzas, pilnīgas un atbilstošas, kā arī izskaidrot novērtējumu
- Rūpīga uzmanība smalkām kļūdām, neatbilstībām un izlaidumiem
- Konsekventa testēšanas vadlīniju un kvalitātes standartu ievērošana
- Spēja skaidri izklāstīt pamatojumu gan tehniskai, gan netehniskai auditorijai
- Elastība strādāt ar dažādiem projektiem, uzdevumu formātiem un klientiem
- Iespēja strādāt kā neatkarīgam līgumdarbiniekam
- Nedrīkst būt nepieciešams H-1B vai STEM OPT atbalsts
- Vēlama pieredze var ietvert pretinieku mašīnmācīšanos, jailbreak datu kopas, uzvedņu injekcijas, RLHF/DPO uzbrukumus, modeļu ekstrakciju, penetrācijas testēšanu, ekspluatācijas izstrādi, reverso inženieriju, uzmākšanās vai dezinformācijas izpēti, ļaunprātīgas izmantošanas analīzi, sarunvalodas mākslīgā intelekta testēšanu, psiholoģiju, aktiermākslu vai rakstīšanu
Priekšrocības
- Strādāt attālināti no jebkuras lomas ietvaros atļautas vietas
- Pašam noteikt savu darba grafiku
- Saņemt iknedēļas maksājumus par sniegtajiem pakalpojumiem, izmantojot Stripe vai Wise
- Projekti var tikt pagarināti, samazināti vai pabeigti pirms termiņa atkarībā no uzņēmējdarbības vajadzībām un darba rezultātiem
- Saņemt piekļuvi labbūtības resursiem un skaidriem norādījumiem projektiem ar augstāku jutīguma līmeni
- Iegūt pieredzi cilvēka veiktā, datos balstītā mākslīgā intelekta red team testēšanā
- Palīdzēt padarīt mākslīgā intelekta sistēmas noturīgākas, drošākas un uzticamākas
- Konkurētspējīgs atalgojums
- Sadarboties ar vadošajiem mākslīgā intelekta pētniekiem