51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnostni red teaming umetne inteligence – delo na daljavo po pogodbi (Združene države Amerike)
Mercor išče strokovnjaka za varnostni red teaming umetne inteligence, ki bo z adversarialnim testiranjem odkrival ranljivosti naprednih modelov AI. Delo vključuje oblikovanje pozivov in ocenjevanje visokotveganega vedenja modelov skupaj z raziskovalci varnosti umetne inteligence.
Opis
- Ustvarjanje adversarialnih pozivov za izzivanje naprednih modelov AI
- Odkrivanje jailbreakov, nevarnega vedenja, halucinacij in kršitev pravil
- Ocenjevanje robustnosti modelov na področjih dezinformacij, kibernetske varnosti, biološke varnosti, goljufij, političnih vsebin in drugih občutljivih področij
- Beleženje ranljivosti ter podpora varnostnim merilom in poročilom o red teamingu
- Sodelovanje z raziskovalci umetne inteligence pri krepitvi usklajenosti, robustnosti in varnosti modelov
- Prispevanje k projektom za usposabljanje in izboljševanje sistemov AI
Zahteve
- Diploma prve ali višje stopnje iz računalništva, kibernetske varnosti, novinarstva, komunikologije, psihologije, biologije, kemije, javnih politik ali sorodnega področja
- Vsaj pet let poklicnih izkušenj na področju varnosti umetne inteligence, red teaminga AI, zaupanja in varnosti, kibernetske varnosti, preiskovalnega novinarstva, naravoslovnih ved ali sorodnega področja
- Močne analitične sposobnosti, sposobnost oblikovanja pozivov in pisnega sporazumevanja
- Izkušnje z ustvarjanjem adversarialnih pozivov ali ocenjevanjem naprednih sistemov AI
- Zaželene so izkušnje z red teamingom AI, RLHF, SFT, usklajevanjem AI ali zaupanjem in varnostjo
- Zaželeno je poznavanje testiranja jailbreakov, prompt engineeringa ali metod adversarialnega ocenjevanja
- Zaželena je strokovnost na enem ali več sivih področjih, kot so kibernetska varnost, biološka varnost, politične vsebine, dezinformacije ali znanstvena varnost
- Sposobnost dela kot neodvisni pogodbeni izvajalec
- Kandidati z vizumoma H-1B in STEM OPT niso podprti
Ugodnosti
- Popolnoma delo na daljavo
- Prilagodljiv urnik
- Tedenska plačila prek Stripe ali Wise
- Projekti se lahko glede na poslovne potrebe in uspešnost podaljšajo, skrajšajo ali predčasno končajo
- Adversarialno testiranje z vodilnimi raziskovalci umetne inteligence in varnostnimi ekipami
- Priložnost sooblikovati, kako sistemi AI obravnavajo zapletene varnostne izzive iz resničnega sveta
- Na zahtevo so na voljo razumne prilagoditve
- Nagrade za priporočila do 340 USD za vsako uspešno priporočilo, ob upoštevanju omejitev priporočil