51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Attālināts mākslīgā intelekta drošības eksperts (angļu un odiju valoda) – darbs uz līguma pamata
Mercor meklē angļu un odiju valodu pārvaldošu mākslīgā intelekta drošības ekspertu, kurš veiktu sarunveida mākslīgā intelekta modeļu pretiniektestēšanu progresīvu modeļu apmācībai. Darbs ietver ievainojamību anotāciju, uzbrukumu scenāriju un datu kopu izveidi, kā arī reproducējamu drošības pārskatu sagatavošanu.
Apraksts
- Testējiet sarunveida mākslīgā intelekta modeļus un aģentus, izmantojot jailbreak paņēmienus, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un daudzpakāpju manipulāciju.
- Dokumentējiet kļūmes, kategorizējiet ievainojamības un identificējiet sistēmiskos riskus.
- Izmantojiet iedibinātas taksonomijas, etalonus un rokasgrāmatas, lai novērtējumi būtu konsekventi.
- Veidojiet reproducējamus drošības pārskatus, datu kopas un uzbrukumu scenārijus.
- Izpētiet modeļu izvades, lai konstatētu aizspriedumus, dezinformāciju un kaitīgu rīcību.
- Atbalstiet progresīvu mākslīgā intelekta sistēmu apmācību un uzlabošanu Mercor mākslīgā intelekta laboratorijai un uzņēmumu klientiem.
Prasības
- Angļu un odiju valodas pārvaldīšana dzimtās valodas līmenī.
- Laba spriestspēja, vērtējot valodu un saturu.
- Spēja noteikt, vai mākslīgā intelekta atbildes ir precīzas, pilnīgas un atbilstošas, kā arī izskaidrot savu pamatojumu.
- Spēcīga uzmanība smalkām kļūdām, neatbilstībām un izlaidumiem.
- Spēja uzticami ievērot vadlīnijas un kvalitātes standartus.
- Spēja skaidri izskaidrot savu pamatojumu gan tehniskai, gan netehniskai auditorijai.
- Elastība strādāt ar dažādiem projektiem, uzdevumu formātiem un klientiem.
- Vēlme iesaistīties kā neatkarīgam līgumdarbiniekam.
- Pretendenti nedrīkst būt H-1B vai STEM OPT kandidāti.
- Vēlama pieredze vai specializācija pretinieku mašīnmācībā, kiberdrošībā, sociotehniskajā riskā vai radošajā testēšanā.
Priekšrocības
- Pilnībā attālināts darbs.
- Elastīgs darba grafiks.
- Iespēja pēc izvēles piedalīties projektos ar paaugstinātu jutīgumu.
- Vadlīnijas un labbūtības resursi projektiem, kuros tiek apstrādāts sensitīvs saturs.
- Iknedēļas maksājumi, izmantojot Stripe vai Wise.
- Konkurētspējīgs atalgojums.
- Iespēja sadarboties ar vadošajiem pētniekiem.
- Ieteikšanas atlīdzība līdz 90 ASV dolāriem par katru veiksmīgu ieteikumu.