51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence, angleščino in nizozemščino (delo na daljavo po pogodbi)
Mercor išče strokovnjake za varnost umetne inteligence, ki govorijo angleško in nizozemsko, za preizkušanje pogovornih modelov in agentov z rdečim timom. Delo vključuje ustvarjanje podatkov o ranljivostih, scenarijev napadov in ponovljivih poročil o varnosti za razvoj napredne umetne inteligence.
Opis
- Preizkušati pogovorne modele in agente umetne inteligence z uporabo jailbreakov, vbrizgavanja pozivov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Ustvarjati podatke, ki jih pripravijo ljudje, z označevanjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporabljati taksonomije, referenčne teste in priročnike za dosledno preizkušanje varnosti
- Razvijati ponovljiva poročila, podatkovne zbirke in primere napadov za stranke
- Iskati ranljivosti, ki jih avtomatizirano preizkušanje morda spregleda
- Razširiti obseg ocenjevanja, da bi pomagali zmanjšati nepričakovana tveganja v produkciji
- Sodelovati z vodilnimi raziskovalci pri usposabljanju in izboljševanju naprednih sistemov umetne inteligence
Zahteve
- Tekoče znanje angleščine in nizozemščine na ravni maternega govorca
- Predhodne izkušnje z rdečim timom za umetno inteligenco, ofenzivno kibernetsko varnostjo ali sociotehničnim preizkušanjem
- Sposobnost napadalnega preizkušanja sistemov umetne inteligence in njihovega usmerjanja v pogoje odpovedi
- Izkušnje z uporabo ogrodij ali referenčnih testov za strukturirano preizkušanje
- Sposobnost jasnega sporočanja tveganj tehničnemu in netehničnemu občinstvu
- Sposobnost prilagajanja različnim projektom in strankam
- Izkušnje z napadalnim strojnim učenjem, vključno s podatkovnimi zbirkami jailbreakov, vbrizgavanjem pozivov, napadi RLHF/DPO ali pridobivanjem modelov, so prednost
- Izkušnje s kibernetsko varnostjo na področju penetracijskega testiranja, razvoja izkoriščanj ali obratnega inženirstva so prednost
- Izkušnje s sociotehničnimi tveganji, vključno s preizkušanjem nadlegovanja ali dezinformacij, analizo zlorab ali preizkušanjem pogovorne umetne inteligence, so prednost
- Ustvarjalne izkušnje s preizkušanjem na področju psihologije, igre ali pisanja so prednost
- Delati morate kot samostojni pogodbeni izvajalec
- Kandidati z vizumi H-1B in STEM OPT niso podprti
Ugodnosti
- Popolnoma oddaljeno delo
- Prilagodljiv urnik z možnostjo, da si sami določite delovni čas
- Tedenska plačila prek Stripe ali Wise na podlagi opravljenih storitev
- Projekti se lahko podaljšajo, skrajšajo ali predčasno končajo glede na poslovne potrebe in uspešnost
- Sodelovanje pri projektih z večjo občutljivostjo je neobvezno
- Na voljo so smernice za vsebine in viri za dobro počutje
- Na zahtevo so na voljo razumne prilagoditve
- Konkurenčno urno plačilo
- Možnost priporočila z nagrado do 250 USD za vsako uspešno priporočilo, ob upoštevanju omejitev