51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības eksperts – angļu un marathu valoda (attālināts darbs)
Mercor meklē angļu un marathu valodā runājošus mākslīgā intelekta drošības ekspertus sarunvalodas modeļu un aģentu red-team testēšanai. Darbs ietver ievainojamību identificēšanu, sensitīvu izvadu izvērtēšanu un reproducējamu drošības datu izveidi MI laboratorijām un klientiem.
Apraksts
- Veikt sarunvalodas MI modeļu un aģentu red-team testēšanu, izmantojot jailbreak metodes, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un daudzpakāpju manipulāciju
- Veidot cilvēka veiktas izvērtēšanas datus, anotējot kļūmes, kategorizējot ievainojamības un identificējot sistēmiskus riskus
- Izmantot izveidotas taksonomijas, etalonus un rokasgrāmatas konsekventas izvērtēšanas atbalstam
- Izstrādāt klientiem reproducējamus pārskatus, datu kopas un uzbrukumu gadījumus
- Izvērtēt MI izvadi, kas saistīti ar aizspriedumiem, dezinformāciju, kaitīgu uzvedību un citām sensitīvām tēmām
- Identificēt ievainojamības, kuras automatizēta testēšana var nepamanīt
- Paplašināt izvērtēšanas tvērumu, lai palīdzētu mazināt neparedzētas ražošanas problēmas
- Atbalstīt klientus viņu MI sistēmu drošības, noturības un uzticamības uzlabošanā
Prasības
- Angļu un marathu valodas dzimtās valodas prasme
- Spēja pieņemt pamatotus lēmumus, izvērtējot valodu un saturu, tostarp to, vai MI atbildes ir precīzas, pilnīgas un atbilstošas
- Spēja pamanīt smalkas kļūdas, neatbilstības un izlaidumus
- Spēja konsekventi ievērot vadlīnijas un kvalitātes standartus
- Spēja skaidri izskaidrot argumentāciju tehniskai un netehniskai auditorijai
- Spēja pielāgoties dažādiem projektiem, uzdevumu veidiem un klientiem
- Spēja strādāt kā neatkarīgam līgumdarbiniekam
- Nedrīkst būt nepieciešams H-1B vai STEM OPT atbalsts
- Par priekšrocību uzskatāma pretinieka mašīnmācīšanās pieredze ar jailbreak datu kopām, uzvedņu injekcijām, RLHF vai DPO uzbrukumiem vai modeļu izgūšanu
- Par priekšrocību uzskatāma kiberdrošības pieredze ielaušanās testēšanā, ekspluatācijas rīku izstrādē vai reversajā inženierijā
- Par priekšrocību uzskatāma sociotehnisko risku pieredze uzmākšanās vai dezinformācijas izpētē, ļaunprātīgas izmantošanas analīzē vai sarunvalodas MI testēšanā
- Par priekšrocību uzskatāma psiholoģijas, aktiermākslas vai rakstīšanas pieredze, kas veicina netradicionālu pretinieka domāšanu
Priekšrocības
- Pilnībā attālināts darbs, ko var veikt pēc sava grafika
- Iknedēļas maksājumi, izmantojot Stripe vai Wise
- Iespēja pēc izvēles piedalīties paaugstinātas sensitivitātes projektos
- Skaidras vadlīnijas un labsajūtas resursi darbam ar sensitīvu saturu
- Konkurētspējīgs atalgojums
- Iespēja sadarboties ar vadošajiem pētniekiem
- Ieteikšanas maksājumi līdz 90 ASV dolāriem par katru veiksmīgu ieteikumu, ievērojot ierobežojumus