51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Attālināts mākslīgā intelekta drošības eksperts (angļu un maratu valoda) uzņēmumā „Mercor“
Izpētiet sarunvalodas mākslīgā intelekta modeļu ievainojamības, veicot red team testēšanu angļu un maratu valodā. Veidojiet reproducējamus datu kopumus, uzbrukumu gadījumus un pārskatus mākslīgā intelekta drošības projektiem, kuros tiek izmantoti cilvēku veidoti dati.
Apraksts
- Veiciet sarunvalodas mākslīgā intelekta modeļu un aģentu red team testēšanu, izmantojot jailbreak metodes, prompt injection, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un daudzgājienu manipulāciju
- Veidojiet cilvēku veidotus datus, anotējot kļūmes, kategorizējot ievainojamības un identificējot sistēmiskos riskus
- Izmantojiet taksonomijas, etalonus un rokasgrāmatas, lai nodrošinātu konsekventus novērtējumus
- Izstrādājiet klientiem reproducējamus pārskatus, datu kopumus un uzbrukumu gadījumus
- Novērtējiet mākslīgā intelekta izvadi par sensitīvām tēmām, tostarp aizspriedumiem, dezinformāciju un kaitīgu uzvedību
- Identificējiet vājās vietas, kuras automatizētā testēšana var nepamanīt
- Paplašiniet novērtēšanas tvērumu, lai palīdzētu novērst neparedzētas ražošanas problēmas
- Atbalstiet klientus viņu mākslīgā intelekta sistēmu drošības, noturības un uzticamības uzlabošanā
Prasības
- Nepieciešamas brīvi vai dzimtajā līmenī pārvaldītas angļu un maratu valodas prasmes
- Laba valodas un satura izpratne, tostarp spēja novērtēt, vai mākslīgā intelekta atbildes ir precīzas, pilnīgas un atbilstošas, kā arī izskaidrot šā novērtējuma pamatojumu
- Īpaša uzmanība smalkām kļūdām, neatbilstībām un izlaidumiem
- Konsekventa noteikto vadlīniju un kvalitātes standartu ievērošana
- Skaidra sprieduma pamatojuma komunikācija gan tehniskai, gan netehniskai auditorijai
- Spēja pielāgoties dažādiem projektiem, uzdevumu formātiem un klientiem
- Jāstrādā kā neatkarīgam līgumslēdzējam
- H1-B un STEM OPT kandidātiem atbalsts netiek sniegts
- Priekšrocība ir pieredze pretinieku mašīnmācībā, tostarp darbā ar jailbreak datu kopumiem, prompt injection, RLHF vai DPO uzbrukumiem vai modeļu ekstrakciju
- Priekšrocība ir kiberdrošības pieredze ielaušanās testēšanā, ekspluatācijas izstrādē vai reversajā inženierijā
- Priekšrocība ir sociotehniskā riska pieredze, kas saistīta ar vajāšanas vai dezinformācijas izpēti, ļaunprātīgas izmantošanas analīzi vai sarunvalodas mākslīgā intelekta testēšanu
- Priekšrocība ir psiholoģijas, aktiermākslas vai rakstīšanas pieredze, kas veicina netradicionālu pretinieka domāšanu
Priekšrocības
- Pilnībā attālināts darbs
- Elastīgs grafiks ar iespēju izvēlēties darba laiku
- Iknedēļas maksājumi, izmantojot Stripe vai Wise, atbilstoši sniegtajiem pakalpojumiem
- Atkarībā no uzņēmējdarbības vajadzībām un darba rezultātiem projekta ilgumu var pagarināt, saīsināt vai projektu izbeigt pirms termiņa
- Labsajūtas resursi un skaidras vadlīnijas projektiem, kuros tiek aplūkots paaugstinātas jutības saturs
- Pēc pieprasījuma ir pieejami saprātīgi pielāgojumi
- Ieteikumu programma, kas par katru veiksmīgu ieteikumu piedāvā līdz 90 ASV dolāriem; ieteikumu skaits nav ierobežots
- Iespēja sadarboties ar vadošajiem pētniekiem
- Pieredze, veicot cilvēku veidotos datos balstītu mākslīgā intelekta red team testēšanu mākslīgā intelekta drošības priekšplānā