51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence – angleščina in bengalščina (delo na daljavo po pogodbi)
Mercor išče strokovnjaka za red teaming varnosti umetne inteligence, ki govori angleško in bengalsko ter bo prepoznaval ranljivosti v pogovornih sistemih umetne inteligence. Delo vključuje pripravo ponovljivih napadalnih primerov in podatkov, ki jih ustvarijo ljudje, za usposabljanje naprednih modelov v laboratorijih za umetno inteligenco.
Opis
- Preizkušanje pogovornih modelov in agentov umetne inteligence z uporabo jailbreakov, vbrizgavanja pozivov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Ustvarjanje podatkov, ki jih ustvarijo ljudje, z označevanjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za dosledno izvajanje ocenjevanj
- Dostavljanje ponovljivih poročil, podatkovnih zbirk in napadalnih primerov strankam
- Ocenjevanje odgovorov umetne inteligence, povezanih s pristranskostjo, dezinformacijami, škodljivim vedenjem in drugimi občutljivimi temami
- Širjenje obsega ocenjevanja in prispevanje k varnejšim sistemom umetne inteligence za stranke
Zahteve
- Materno ali tekoče znanje angleščine in bengalščine
- Zrela presoja pri ocenjevanju jezika in vsebine, vključno s sposobnostjo ugotoviti, ali so odgovori umetne inteligence točni, popolni in primerni, ter pojasniti oceno
- Izjemna pozornost do subtilnih napak, nedoslednosti in izpustov
- Zanesljivo upoštevanje smernic za testiranje in standardov kakovosti
- Jasno sporočanje razlogov tehničnemu in netehničnemu občinstvu
- Pripravljenost na prilagajanje različnim projektom, oblikam nalog in strankam
- Sposobnost dela kot neodvisni pogodbeni izvajalec
- Ne sme zahtevati sponzorstva za vizum H-1B ali STEM OPT
- Prednost: izkušnje z adversarnim strojnim učenjem, vključno z zbirkami podatkov za jailbreak, vbrizgavanjem pozivov, napadi RLHF/DPO ali ekstrakcijo modelov
- Prednost: izkušnje s kibernetsko varnostjo, penetracijskim testiranjem, razvojem izkoriščanj ali obratnim inženirstvom
- Prednost: izkušnje s sociotehničnimi tveganji, vključno s preverjanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Prednost: izkušnje iz psihologije, igranja ali pisanja, ki podpirajo nekonvencionalno adversarno razmišljanje
Ugodnosti
- Popolnoma oddaljeno delo
- Prilagodljiv urnik glede na lastno razpoložljivost
- Tedenska plačila prek Stripe ali Wise
- Možnost izbire sodelovanja pri projektih z večjo občutljivostjo
- Dostop do jasnih smernic in virov za dobro počutje pri nalogah z občutljivo vsebino
- Konkurenčno plačilo
- Pridobivanje izkušenj z red teamingom umetne inteligence na podlagi podatkov, ki jih ustvarijo ljudje
- Sodelovanje z vodilnimi raziskovalci umetne inteligence
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo