51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības red team eksperts – angļu un tamilu valoda, attālināts līgumdarbs
Testējiet sarunveida mākslīgā intelekta modeļus un aģentus, lai atklātu ievainojamības, izmantojot pretinieka testēšanu un strukturētu red team analīzi. Veidojiet uzbrukumu scenārijus, ievainojamību datus un reproducējamus pārskatus „Mercor“ mākslīgā intelekta laboratorijas klientiem.
Apraksts
- Testējiet sarunveida mākslīgā intelekta modeļus un aģentus, izmantojot jailbreak paņēmienus, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un daudzpakāpju manipulāciju
- Veidojiet cilvēku marķētus datus, dokumentējot kļūmes, kategorizējot ievainojamības un identificējot sistēmiskos riskus
- Izmantojiet izveidotas taksonomijas, etalonus un rokasgrāmatas, lai nodrošinātu konsekventus novērtējumus
- Izstrādājiet klientiem reproducējamus pārskatus, datu kopas un uzbrukumu scenārijus
- Novērtējiet mākslīgā intelekta izvadi, kas ietver aizspriedumus, dezinformāciju, kaitīgu rīcību un citas sensitīvas tēmas
- Identificējiet vājās vietas, kuras automatizētā testēšana var neievērot
- Paplašiniet novērtēšanas pārklājumu un palīdziet novērst neparedzētas problēmas ražošanas vidē
- Uzlabojiet klientu mākslīgā intelekta sistēmas un veiciniet drošāku, uzticamāku modeļu izstrādi
Prasības
- Angļu un tamilu valodas prasme dzimtās valodas līmenī
- Laba spriestspēja, novērtējot valodu un saturu
- Spēja noteikt, vai mākslīgā intelekta atbildes ir precīzas, pilnīgas un atbilstošas, kā arī izskaidrot novērtējumu
- Rūpīga uzmanība smalkām kļūdām, neatbilstībām un izlaidumiem
- Spēja konsekventi piemērot vadlīnijas un kvalitātes standartus
- Skaidra spēja izklāstīt pamatojumu tehniskai un netehniskai auditorijai
- Elastība darbā ar dažādiem projektiem, uzdevumu formātiem un klientiem
- Vēlams: pretinieka mašīnmācīšanās pieredze ar jailbreak datu kopām, uzvedņu injekcijām, RLHF vai DPO uzbrukumiem vai modeļu izgūšanu
- Vēlams: kiberdrošības pieredze penetrācijas testēšanā, ekspluatācijas rīku izstrādē vai reversajā inženierijā
- Vēlams: pieredze ar sociotehniskiem riskiem, piemēram, uzmākšanās un dezinformācijas izpētē, ļaunprātīgas izmantošanas analīzē vai sarunveida mākslīgā intelekta testēšanā
- Vēlams: radošas testēšanas pieredze psiholoģijā, aktiermākslā vai rakstniecībā
- Jāstrādā kā neatkarīgam līgumdarbiniekam
- H-1B un STEM OPT kandidātiem atbalsts netiek nodrošināts
Priekšrocības
- Pilnībā attālināts darbs
- Elastīgs grafiks ar iespēju pašam noteikt darba laiku
- Iknedēļas maksājumi, izmantojot Stripe vai Wise
- Konkurētspējīgs stundas atalgojums
- Iespēja iegūt pieredzi cilvēku datos balstītā mākslīgā intelekta red team darbā, kas vērsts uz progresīvu drošību
- Tiešs ieguldījums izturīgāku, drošāku un uzticamāku mākslīgā intelekta sistēmu izveidē
- Iespēja brīvprātīgi piedalīties projektos ar paaugstinātu sensitivitāti
- Vadlīnijas un labbūtības resursi projektiem, kuros ietverts sensitīvs saturs
- Pēc pieprasījuma ir pieejami saprātīgi pielāgojumi
- Ieteikumu programma, kas par katru veiksmīgu ieteikumu piedāvā līdz 90 ASV dolāriem, ievērojot ieteikumu ierobežojumus