51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za red teaming varnosti umetne inteligence (angleščina in pandžabščina)
Izvajajte nasprotovalno testiranje pogovornih modelov in agentov umetne inteligence v angleščini in pandžabščini. Ustvarjajte anotacije ranljivosti, primere napadov, nabore podatkov in ponovljiva varnostna poročila za Mercorjeve projekte varnosti umetne inteligence, ki temeljijo na človeških podatkih.
Opis
- Preizkušajte pogovorne modele in agente umetne inteligence z jailbreaki, vbrizgavanjem pozivov, scenariji zlorabe, izkoriščanjem pristranskosti in večkrožno manipulacijo
- Ustvarjajte anotacije človeških podatkov z dokumentiranjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporabljajte uveljavljene taksonomije, primerjalne teste in priročnike za zagotavljanje doslednega ocenjevanja
- Strankam zagotavljajte ponovljiva poročila, nabore podatkov in primere napadov
- Ocenjujte rezultate umetne inteligence, povezane s pristranskostjo, dezinformacijami, škodljivim vedenjem in drugimi občutljivimi temami
- Razširjajte obseg ocenjevanja, da prepoznate ranljivosti, ki jih avtomatizirano testiranje lahko spregleda
- Pomagajte izboljšati varnost, odpornost in zanesljivost strankinih sistemov umetne inteligence
Zahteve
- Materno ali tekoče znanje angleščine in pandžabščine
- Zdrava presoja pri ocenjevanju točnosti, popolnosti in ustreznosti vsebine, ki jo ustvari umetna inteligenca
- Sposobnost odkrivanja niansiranih napak, nedoslednosti in izpustov
- Dosledno upoštevanje smernic, taksonomij, primerjalnih testov, priročnikov in standardov kakovosti
- Jasno sporočanje razlogov tako tehničnemu kot netehničnemu občinstvu
- Prilagodljivost pri različnih projektih, oblikah nalog in zahtevah strank
- Sposobnost dela kot neodvisni pogodbeni izvajalec
- Kandidati z vizumoma H1-B in STEM OPT niso podprti
- Koristne so izkušnje na področjih nasprotovalnega strojnega učenja, zbirk podatkov za jailbreak, napadov z vbrizgavanjem pozivov ali napadov RLHF/DPO, izločanja modelov, penetracijskega testiranja, razvoja izkoriščevalskih kod, obratnega inženirstva, preverjanja nadlegovanja ali dezinformacij, analize zlorab, testiranja pogovorne umetne inteligence, psihologije, igranja ali nekonvencionalnega nasprotovalnega pisanja
Ugodnosti
- Popolnoma oddaljeno delo s prilagodljivim urnikom, ki ga upravljate sami
- Tedenska plačila prek Stripe ali Wise
- Konkurenčno plačilo
- Viri za dobro počutje in jasne smernice za projekte z večjo občutljivostjo
- Na zahtevo so na voljo razumne prilagoditve
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo
- Priložnosti za sodelovanje z vodilnimi raziskovalci
- Praktične izkušnje z red teamingom umetne inteligence, ki temelji na človeških podatkih, na čelu varnosti umetne inteligence