51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Red teamer za varnost umetne inteligence – pogodbeno delo na daljavo v Združenih državah
Mercor išče pogodbenega strokovnjaka za red teaming varnosti umetne inteligence, ki bo izzival najnaprednejše modele umetne inteligence in odkrival njihove ranljivosti. Vloga je osredotočena na visokotvegana področja ter podpira razvoj varnejših in zanesljivejših sistemov umetne inteligence.
Opis
- Ustvarjanje adversarnih pozivov, ki strogo preizkušajo najnaprednejše modele umetne inteligence
- Odkrivanje jailbreakov, nevarnega vedenja, halucinacij in neupoštevanja varnostnih pravil
- Ocenjevanje odpornosti modelov na dezinformacije, kibernetsko varnost, biološko varnost, goljufije, politične vsebine in druga občutljiva področja
- Beleženje odkritih pomanjkljivosti ter podpora varnostnim primerjalnim testom in poročilom red teaminga
- Sodelovanje z raziskovalci umetne inteligence pri izboljševanju usklajenosti, robustnosti in varnosti modelov
- Pomoč pri zaščiti in izboljševanju nastajajočih najnaprednejših sistemov umetne inteligence
- Oblikovanje načina, kako se modeli umetne inteligence spopadajo z zahtevnimi varnostnimi scenariji v resničnih okoliščinah
Zahteve
- Diploma dodiplomskega študija ali višja stopnja iz računalništva, kibernetske varnosti, novinarstva, komunikologije, psihologije, biologije, kemije, javnih politik ali sorodnega področja
- Najmanj pet let strokovnih izkušenj na področju varnosti umetne inteligence, red teaminga umetne inteligence, zaupanja in varnosti, kibernetske varnosti, preiskovalnega novinarstva, naravoslovnih ved ali sorodnega področja
- Močna analitična presoja, sposobnost razvijanja pozivov in veščine pisnega komuniciranja
- Praktične izkušnje z ustvarjanjem adversarnih pozivov ali ocenjevanjem najnaprednejših sistemov umetne inteligence
- Zaželeno: izkušnje z red teamingom umetne inteligence, RLHF, SFT, usklajevanjem umetne inteligence ali zaupanjem in varnostjo
- Zaželeno: poznavanje ocenjevanja jailbreakov, prompt engineeringa ali metod adversarnega vrednotenja
- Zaželeno: strokovno znanje na niansiranih področjih, kot so kibernetska varnost, biološka varnost, politične vsebine, dezinformacije ali znanstvena varnost
- Razpoložljivost za delo kot neodvisni pogodbeni sodelavec
- Kandidati z vizumi H-1B in STEM OPT niso podprti
Ugodnosti
- Popolnoma oddaljeno delo
- Samostojno določanje delovnega časa in opravljanje nalog po prilagodljivem urniku
- Tedenska plačila prek Stripea ali Wisea
- Trajanje projekta se lahko spremeni ali se projekt predčasno konča glede na poslovne potrebe in uspešnost
- Konkurenčno plačilo
- Delo z vodilnimi raziskovalci umetne inteligence in varnostnimi ekipami
- Na zahtevo so na voljo razumne prilagoditve
- Program priporočil ponuja do 340 USD za vsako uspešno priporočilo, ob upoštevanju omejitev priporočil