51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za red teaming varnosti umetne inteligence – angleščina in finščina, delo na daljavo iz Združenih držav
Izvajanje adversarialnega testiranja pogovornih modelov in agentov umetne inteligence za Mercorjeve projekte umetne inteligence, ki uporabljajo človeške podatke. Ustvarjanje ponovljivih podatkov o ranljivostih za pomoč pri krepitvi naprednih sistemov umetne inteligence.
Opis
- Testiranje pogovornih modelov in agentov umetne inteligence z uporabo jailbreakov, vbrizgavanja pozivov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Anotiranje napak, razvrščanje ranljivosti in prepoznavanje sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih meril in priročnikov za dosledne ocene
- Ustvarjanje ponovljivih poročil, podatkovnih zbirk in primerov napadov za stranke
- Prepoznavanje ranljivosti, ki jih avtomatizirano testiranje lahko spregleda
- Širjenje obsega ocenjevanja in pomoč pri zmanjševanju nepričakovanih težav v produkciji
- Sodelovanje z vodilnimi raziskovalci pri projektih, ki usposabljajo in izboljšujejo sisteme umetne inteligence
Zahteve
- Tekoče ali materno znanje angleščine in finščine
- Predhodne izkušnje z red teamingom na področju adversarialnega dela z umetno inteligenco, kibernetske varnosti ali sociotehničnega preizkušanja
- Sposobnost adversarialnega testiranja sistemov umetne inteligence in njihovega potiskanja proti točkam odpovedi
- Izkušnje z uporabo ogrodij ali primerjalnih meril za strukturirano testiranje
- Sposobnost jasnega komuniciranja tveganj tehničnemu in netehničnemu občinstvu
- Prilagodljivost različnim projektom in zahtevam strank
- Razpoložljivost za sodelovanje kot neodvisni pogodbenik
- Ne smete biti kandidat za H-1B ali STEM OPT
- Prednost so izkušnje z adversarialnim strojnim učenjem, vključno s podatkovnimi zbirkami jailbreakov, vbrizgavanjem pozivov, napadi RLHF/DPO ali ekstrakcijo modelov
- Prednost so izkušnje na področju kibernetske varnosti, vključno s penetracijskim testiranjem, razvojem exploitov ali obratnim inženirstvom
- Prednost so izkušnje s sociotehničnimi tveganji pri preizkušanju nadlegovanja ali dezinformacij, analizi zlorab ali testiranju pogovorne umetne inteligence
- Prednost so izkušnje iz psihologije, igranja ali pisanja, ki podpirajo nekonvencionalno adversarialno razmišljanje
Ugodnosti
- Popolnoma oddaljeno delo
- Prilagodljiv urnik
- Tedenska plačila prek Stripe ali Wise
- Viri za dobro počutje in jasne smernice za projekte z večjo občutljivostjo
- Priložnost za pridobivanje izkušenj z red teamingom umetne inteligence, ki temelji na človeških podatkih
- Neposredna priložnost pomagati narediti sisteme umetne inteligence robustnejše, varnejše in zanesljivejše
- Konkurenčno plačilo
- Nagrada za priporočilo do 250 USD za vsako uspešno priporočilo