51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības sarkanās komandas speciālists – attālināts līgums (Amerikas Savienotās Valstis)
Mercor meklē mākslīgā intelekta drošības sarkanās komandas speciālistu, kas ar pretinieka testēšanu atklātu progresīvu MI modeļu ievainojamības. Darbs ietver uzvedņu izstrādi un augsta riska modeļu uzvedības novērtēšanu kopā ar MI drošības pētniekiem.
Apraksts
- Izstrādā pretinieka uzvednes progresīvu MI modeļu pārbaudīšanai
- Atklāj aizsardzības apiešanas mēģinājumus, nedrošu uzvedību, halucinācijas un politiku pārkāpumus
- Novērtē modeļu noturību dezinformācijas, kiberdrošības, bioloģiskās drošības, krāpšanas, politiskā satura un citās sensitīvās jomās
- Dokumentē ievainojamības un atbalsti drošības etalonu un sarkanās komandas ziņojumu izstrādi
- Sadarbojies ar MI pētniekiem, lai stiprinātu modeļu saskaņotību, noturību un drošību
- Piedalies projektos, kuru mērķis ir apmācīt un uzlabot MI sistēmas
Prasības
- Bakalaura vai augstāks grāds datorzinātnēs, kiberdrošībā, žurnālistikā, komunikācijā, psiholoģijā, bioloģijā, ķīmijā, sabiedriskajā politikā vai saistītā jomā
- Vismaz piecu gadu profesionālā pieredze MI drošībā, MI sarkanās komandas darbā, uzticamības un drošības, kiberdrošības, pētnieciskās žurnālistikas, dzīvības zinātņu vai saistītā jomā
- Spēcīgas analītiskās spriešanas, uzvedņu izstrādes un rakstiskās saziņas prasmes
- Pieredze pretinieka uzvedņu veidošanā vai progresīvu MI sistēmu novērtēšanā
- Priekšrocība ir pieredze MI sarkanās komandas darbā, RLHF, SFT, MI saskaņošanas vai uzticamības un drošības jomā
- Priekšrocība ir zināšanas par aizsardzības apiešanas testēšanu, uzvedņu inženieriju vai pretinieka novērtēšanas metodēm
- Priekšrocība ir zināšanas vienā vai vairākās pelēkās zonas jomās, piemēram, kiberdrošībā, bioloģiskajā drošībā, politiskajā saturā, dezinformācijā vai zinātniskajā drošībā
- Spēja strādāt kā neatkarīgam līgumdarbiniekam
- H-1B un STEM OPT kandidāti netiek atbalstīti
Priekšrocības
- Pilnībā attālināts darbs
- Elastīgs darba grafiks
- Iknedēļas maksājumi, izmantojot Stripe vai Wise
- Projekti atkarībā no uzņēmējdarbības vajadzībām un darba rezultātiem var tikt pagarināti, saīsināti vai pabeigti pirms termiņa
- Pretinieka testēšanas darbs ar vadošajiem MI pētniekiem un drošības komandām
- Iespēja ietekmēt to, kā MI sistēmas risina sarežģītus reālās pasaules drošības izaicinājumus
- Pēc pieprasījuma pieejami saprātīgi pielāgojumi
- Par katru veiksmīgu ieteikumu iespējama līdz 340 ASV dolāru ieteikuma izmaksa, ievērojot ieteikumu ierobežojumus