51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnostni red teaming umetne inteligence (angleščina in pandžabščina)
Mercor išče strokovnjaka za varnost umetne inteligence, ki govori angleško in pandžabsko, za red teaming pogovornih modelov in agentov. Pogodbeno delo je osredotočeno na odkrivanje ranljivosti, ustvarjanje napadalnih primerov in pripravo ponovljivih varnostnih poročil za raziskovalne naročnike na področju umetne inteligence.
Opis
- Preizkušanje pogovornih modelov in agentov umetne inteligence z jailbreaki, vbrizgavanjem pozivov, scenariji zlorabe, izkoriščanjem pristranskosti in večkoračno manipulacijo
- Ocenjevanje izhodov modelov pri občutljivih temah, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem
- Dokumentiranje napak, kategoriziranje ranljivosti in prepoznavanje sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za dosledno ocenjevanje
- Ustvarjanje ponovljivih poročil, podatkovnih zbirk in napadalnih primerov za naročnike
- Preiskovanje šibkosti sistemov umetne inteligence, ki jih avtomatizirano testiranje lahko spregleda
- Širjenje obsega ocenjevanja za omejevanje nepričakovanih težav v produkciji
- Izboljševanje naročniških sistemov umetne inteligence z red teamingom, ki ga izvajajo ljudje in temelji na podatkih
Zahteve
- Materno ali tekoče znanje angleščine in pandžabščine
- Dobro presojanje pri ocenjevanju jezika in vsebine
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in ustrezni, ter razložiti oceno
- Natančna pozornost do subtilnih napak, nedoslednosti in izpustov
- Dosledno upoštevanje smernic za testiranje in standardov kakovosti
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu
- Prilagodljivost pri delu na različnih projektih, v različnih formatih nalog in za različne naročnike
- Razpoložljivost za delo kot neodvisni pogodbeni izvajalec
- Podpora za H-1B ali STEM OPT ne sme biti potrebna
- Zaželene izkušnje lahko vključujejo napadalno strojno učenje, podatkovne zbirke jailbreakov, vbrizgavanje pozivov, napade RLHF/DPO, izločanje modelov, penetracijsko testiranje, razvoj izkoriščanj, obratno inženirstvo, preverjanje nadlegovanja ali dezinformacij, analizo zlorab, testiranje pogovorne umetne inteligence, psihologijo, igranje ali pisanje
Ugodnosti
- Delo na daljavo od koder koli, kjer je to za to vlogo dovoljeno
- Samostojno določanje delovnega urnika
- Tedenska plačila za opravljene storitve prek Stripea ali Wisea
- Projekti se lahko glede na poslovne potrebe in uspešnost podaljšajo, zmanjšajo ali predčasno končajo
- Dostop do virov za dobro počutje in jasnih navodil za projekte z večjo občutljivostjo
- Pridobivanje izkušenj z red teamingom umetne inteligence, ki temelji na človeških podatkih
- Pomoč pri zagotavljanju robustnejših, varnejših in zanesljivejših sistemov umetne inteligence
- Konkurenčno plačilo
- Sodelovanje z vodilnimi raziskovalci umetne inteligence