51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnostni red teaming umetne inteligence – delo na daljavo iz ZDA
Mercor išče strokovnjaka za varnostni red teaming umetne inteligence, ki bo na daljavo preizkušal vodilne modele umetne inteligence in odkrival ranljivosti na področjih visokega tveganja. Pogodbena vloga podpira laboratorije za umetno inteligenco pri razvoju in izboljševanju naprednih sistemov.
Opis
- Ustvarjanje adversarnih pozivov za preizkušanje vodilnih modelov umetne inteligence
- Odkrivanje jailbreakov, nevarnega vedenja, halucinacij in kršitev pravil
- Ocenjevanje odpornosti modelov proti dezinformacijam, kibernetskim grožnjam, tveganjem biološke varnosti, goljufijam, političnim vsebinam in drugim občutljivim temam
- Beleženje odkritih ranljivosti ter pomoč pri pripravi varnostnih primerjalnih testov in poročil red teaminga
- Sodelovanje z raziskovalci umetne inteligence pri krepitvi usklajenosti, robustnosti in varnosti modelov
- Prispevanje k projektom za usposabljanje in izboljševanje sistemov umetne inteligence
Zahteve
- Diploma prve ali višje stopnje iz računalništva, kibernetske varnosti, novinarstva, komunikologije, psihologije, biologije, kemije, javnih politik ali sorodnega področja
- Vsaj pet let strokovnih izkušenj na področju varnosti umetne inteligence, red teaminga umetne inteligence, zaupanja in varnosti, kibernetske varnosti, preiskovalnega novinarstva, ved o življenju ali sorodnega področja
- Močna analitična presoja, sposobnost oblikovanja pozivov in pisnega komuniciranja
- Izkušnje z ustvarjanjem adversarnih pozivov ali ocenjevanjem vodilnih sistemov umetne inteligence
- Izkušnje z red teamingom umetne inteligence, RLHF, SFT, usklajevanjem umetne inteligence ali zaupanjem in varnostjo so zaželene
- Poznavanje testiranja jailbreakov, prompt engineeringa ali metod adversarnega ocenjevanja je zaželeno
- Strokovno znanje na vsaj enem področju sivih con, kot so kibernetska varnost, biološka varnost, politične vsebine, dezinformacije ali znanstvena varnost, je zaželeno
- Sposobnost dela kot neodvisni pogodbeni izvajalec
- Kandidati z vizumoma H-1B in STEM OPT niso podprti
Ugodnosti
- Popolnoma oddaljeno delo
- Prilagodljiv urnik, ki ga organizirate samostojno
- Tedenska plačila prek Stripe ali Wise
- Projekti se lahko podaljšajo, skrajšajo ali predčasno končajo glede na poslovne potrebe in uspešnost
- Konkurenčno plačilo
- Sodelovanje z vodilnimi raziskovalci umetne inteligence in varnostnimi ekipami
- Na zahtevo so na voljo razumne prilagoditve
- Nagrade za priporočila do 340 USD za vsako uspešno priporočilo, ob upoštevanju veljavnih omejitev