51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence na daljavo – angleščina in asamščina (pogodbeno delo)
Mercor išče strokovnjaka za varnost umetne inteligence za pogodbeno delo na daljavo, ki tekoče govori angleško in asamščino ter bo izvajal varnostno preizkušanje najsodobnejših modelov, ocenjeval ranljivosti in ustvarjal kakovostne človeške podatke za projekte varnosti umetne inteligence.
Opis
- Izvajati varnostno preizkušanje pogovornih modelov in agentov umetne inteligence z uporabo jailbreakov, vbrizgavanja pozivov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Ustvarjati podatke z oznakami ljudi z označevanjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporabljati taksonomije, primerjalna merila in priročnike za zagotavljanje doslednega ocenjevanja
- Razvijati ponovljive poročila, nabore podatkov in primere napadov za stranke
- Ocenjevati rezultate umetne inteligence, ki vključujejo občutljive teme, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem
- Prepoznavati ranljivosti, ki jih avtomatizirano testiranje ne zazna
- Širiti obseg ocenjevanja, da bi zmanjšali nepričakovane težave v produkciji
- Prispevati k projektom, ki usposabljajo in izboljšujejo najsodobnejše sisteme umetne inteligence
Zahteve
- Tekoče znanje angleščine in asamščine na ravni maternega govorca
- Dobra presoja pri ocenjevanju kakovosti jezika in vsebine
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in primerni
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu
- Izjemna pozornost do niansiranih napak, nedoslednosti in izpustov
- Sposobnost dosledne uporabe smernic, taksonomij, primerjalnih meril, priročnikov in standardov kakovosti
- Prilagodljivost pri delu na različnih projektih, v različnih oblikah nalog in glede na potrebe strank
- Delo mora potekati kot neodvisni pogodbeni izvajalec
- Kandidatov z vizumoma H-1B in STEM OPT trenutno ni mogoče podpreti
- Prednost imajo področja strokovnega znanja, kot so kontradiktorno strojno učenje, kibernetska varnost, sociotehnično tveganje, ocenjevanje pogovorne umetne inteligence, psihologija, igranje in pisanje
Ugodnosti
- Popolnoma oddaljeno delo
- Urnik, ki vam ustreza
- Tedenska plačila prek Stripe ali Wise
- Pridobivanje praktičnih izkušenj pri varnostnem preizkušanju umetne inteligence na podlagi podatkov, ki jih ustvarijo ljudje
- Pomoč pri zagotavljanju odpornejših, varnejših in zanesljivejših sistemov umetne inteligence
- Sodelovanje z vodilnimi raziskovalci umetne inteligence
- Na zahtevo so na voljo razumne prilagoditve
- Možnost prejemanja nagrad za priporočila v višini do 90 USD za vsako uspešno priporočilo, ob upoštevanju veljavnih omejitev