51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
MI drošības red team eksperts – angļu un somu valoda, attālināts darbs Amerikas Savienotajās Valstīs
Veiciet sarunvalodas MI modeļu un aģentu pretinieka testēšanu Mercor cilvēkdatu MI projektos. Veidojiet reproducējamus ievainojamību datus, lai palīdzētu stiprināt progresīvas MI sistēmas.
Apraksts
- Testējiet sarunvalodas MI modeļus un aģentus, izmantojot jailbreak paņēmienus, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un vairāku kārtu manipulāciju
- Anotējiet kļūmes, kategorizējiet ievainojamības un identificējiet sistēmiskos riskus
- Konsekventai novērtēšanai izmantojiet izveidotas taksonomijas, etalonus un rokasgrāmatas
- Veidojiet reproducējamus pārskatus, datu kopas un uzbrukumu gadījumus klientiem
- Identificējiet ievainojamības, kuras automatizēta testēšana var nepamanīt
- Paplašiniet novērtēšanas tvērumu un palīdziet mazināt neparedzētas ražošanas problēmas
- Sadarbojieties ar vadošajiem pētniekiem projektos, kas apmāca un pilnveido MI sistēmas
Prasības
- Brīvi vai dzimtajā līmenī jāpārvalda angļu un somu valoda
- Iepriekšēja red team pieredze MI pretinieka testēšanā, kiberdrošībā vai sociotehniskā izpētē
- Spēja veikt MI sistēmu pretinieka testēšanu un virzīt tās līdz kļūmju punktiem
- Pieredze ietvaru vai etalonu izmantošanā strukturētai testēšanai
- Spēja skaidri komunicēt riskus tehniskai un netehniskai auditorijai
- Spēja pielāgoties dažādiem projektiem un klientu prasībām
- Pieejamība darbam kā neatkarīgam darbuzņēmējam
- Nedrīkstat būt H-1B vai STEM OPT kandidāts
- Vēlams: pretinieka mašīnmācīšanās pieredze, tostarp jailbreak datu kopas, uzvedņu injekcijas, RLHF/DPO uzbrukumi vai modeļa ekstrakcija
- Vēlams: kiberdrošības pieredze iespiešanās testēšanā, ekspluatācijas izstrādē vai reversajā inženierijā
- Vēlams: sociotehnisko risku pieredze uzmākšanās vai dezinformācijas izpētē, ļaunprātīgas izmantošanas analīzē vai sarunvalodas MI testēšanā
- Vēlams: psiholoģijas, aktiermākslas vai rakstīšanas pieredze, kas atbalsta netradicionālu pretinieka domāšanu
Priekšrocības
- Pilnībā attālināts darbs
- Elastīgs darba grafiks
- Iknedēļas maksājumi, izmantojot Stripe vai Wise
- Labsajūtas resursi un skaidras vadlīnijas paaugstinātas jutības projektiem
- Iespēja iegūt pieredzi cilvēkdatu MI red team darbā
- Tieša iespēja palīdzēt padarīt MI sistēmas noturīgākas, drošākas un uzticamākas
- Konkurētspējīgs atalgojums
- Ieteikuma bonuss līdz 250 ASV dolāriem par katru veiksmīgu ieteikumu