51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības eksperts (angļu un telugu valoda) – attālināta darba līgums
Veiciet sarunvalodas mākslīgā intelekta modeļu un aģentu red team novērtēšanu uzņēmumam Mercor, koncentrējoties uz angļu un telugu valodas drošību. Izveidojiet ievainojamību datus, uzbrukumu gadījumus un atkārtojamus pārskatus, lai atbalstītu drošāka MI izstrādi.
Apraksts
- Testējiet sarunvalodas mākslīgā intelekta modeļus un aģentus, izmantojot jailbreak metodes, uzvedņu injekcijas, ļaunprātīgas izmantošanas scenārijus, aizspriedumu izmantošanu un vairāku kārtu manipulāciju
- Anotējiet kļūmes, kategorizējiet ievainojamības un identificējiet sistēmiskos riskus
- Izmantojiet taksonomijas, etalonus un rokasgrāmatas, lai nodrošinātu konsekventu novērtēšanu
- Izveidojiet klientiem atkārtojamus pārskatus, datu kopas un uzbrukumu gadījumus
- Novērtējiet MI izvadi, kas saistīti ar aizspriedumiem, dezinformāciju, kaitīgu uzvedību un citām sensitīvām tēmām
- Piedalieties projektos, kuros tiek apmācītas un uzlabotas MI sistēmas
- Identificējiet ievainojamības, ko automatizētā testēšana neatklāj
- Paplašiniet novērtēšanas tvērumu, lai palīdzētu samazināt neparedzētas problēmas ražošanas vidē
Prasības
- Angļu un telugu valodas dzimtā vai brīva prasme
- Laba spriestspēja, novērtējot, vai MI atbildes ir precīzas, pilnīgas un atbilstošas
- Spēja skaidri izklāstīt argumentāciju gan tehniskai, gan netehniskai auditorijai
- Rūpīga uzmanība smalkām kļūdām, neatbilstībām un izlaidumiem
- Konsekventa vadlīniju un kvalitātes standartu ievērošana
- Elastība, strādājot ar dažādiem projektiem, uzdevumu formātiem un klientiem
- Vēlme strādāt kā neatkarīgam līgumslēdzējam
- Jūs nedrīkstat būt H-1B vai STEM OPT kandidāts; atbilstošās specializācijas var ietvert pretinieku mašīnmācīšanos, jailbreak datu kopas, uzvedņu injekcijas, RLHF/DPO uzbrukumus, modeļa iegūšanu, penetrācijas testēšanu, ekspluatācijas izstrādi, reverso inženieriju, uzmākšanās vai dezinformācijas izpēti, ļaunprātīgas izmantošanas analīzi, sarunvalodas MI testēšanu, psiholoģiju, aktiermākslu vai rakstīšanu.
- ieguvumi
Priekšrocības
- Strādājiet pilnībā attālināti pēc paša izvēlēta grafika
- Saņemiet iknedēļas maksājumus par sniegtajiem pakalpojumiem, izmantojot Stripe vai Wise
- Iegūstiet pieredzi cilvēku datu virzītā MI red team testēšanā, kas koncentrējas uz progresīvu drošību
- Palīdziet padarīt MI sistēmas izturīgākas, drošākas un uzticamākas
- Izvēlieties, vai piedalīties paaugstinātas sensitivitātes projektos
- Saņemiet skaidras vadlīnijas un labbūtības resursus paaugstinātas sensitivitātes projektiem
- Pieprasiet saprātīgus pielāgojumus
- Par katru veiksmīgu ieteikumu nopelniet līdz 90 ASV dolāriem; ieteikumu skaitam nav norādīts ierobežojums