51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence (angleščina in tamilščina) – pogodbeno delo na daljavo
Mercor išče strokovnjaka za varnost umetne inteligence, ki govori angleško in tamilsko, za red teaming pogovornih modelov in agentov. Pogodbena vloga se osredotoča na prepoznavanje ranljivosti, ustvarjanje podatkov za evalvacijo in pripravo ponovljivih varnostnih poročil.
Opis
- Izvajati adversarialno testiranje pogovornih modelov in agentov umetne inteligence z jailbreaki, prompt injectionom, scenariji zlorabe, izkoriščanjem pristranskosti in večkoračno manipulacijo.
- Ustvarjati podatke, ki jih pripravijo ljudje, z označevanjem napak, kategoriziranjem ranljivosti in prepoznavanjem sistemskih tveganj.
- Uporabljati uveljavljene taksonomije, primerjalna merila in priročnike za zagotavljanje doslednih evalvacij.
- Strankam zagotavljati ponovljiva poročila, nabore podatkov in primere napadov.
- Ocenjevati rezultate umetne inteligence, ki vključujejo občutljive teme, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem.
- Prepoznavati šibkosti, ki jih avtomatizirane metode evalvacije lahko spregledajo.
- Širiti obseg evalvacije, da bi pomagali zmanjšati nepričakovane težave v produkciji.
- Izboljševati sisteme umetne inteligence strank s strukturiranim adversarialnim testiranjem.
Zahteve
- Znanje angleščine in tamilščine na ravni maternega jezika ali tekoče znanje.
- Dobro presojanje pri ocenjevanju jezika in vsebine.
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in ustrezni, ter pojasniti razloge.
- Izjemna pozornost do subtilnih napak, nedoslednosti in izpustov.
- Dosledno upoštevanje smernic in standardov kakovosti.
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu.
- Prilagodljivost različnim projektom, oblikam nalog in strankam.
- Sposobnost dela kot neodvisni pogodbeni izvajalec.
- Kandidati z vizumoma H1-B in STEM OPT niso podprti.
- Prednost so izkušnje z adversarialnim strojnim učenjem, vključno z nabori podatkov za jailbreak, napadi prompt injection, napadi RLHF ali DPO oziroma ekstrakcijo modelov.
- Prednost so izkušnje na področju kibernetske varnosti s penetracijskim testiranjem, razvojem izkoriščevalskih programov ali obratnim inženirstvom.
- Prednost so izkušnje s sociotehničnimi tveganji, ki vključujejo preizkušanje nadlegovanja ali dezinformacij, analizo zlorab ali testiranje pogovorne umetne inteligence.
- Prednost so izkušnje z ustvarjalnim preizkušanjem na področju psihologije, igranja vlog ali pisanja.
Ugodnosti
- Popolnoma delo na daljavo.
- Prilagodljiv urnik z možnostjo, da si sami določite delovni čas.
- Tedenska plačila prek Stripe ali Wise.
- Možnost sodelovanja pri projektih z višjo stopnjo občutljivosti.
- Jasne smernice in viri za dobro počutje pri delu z občutljivo vsebino.
- Konkurenčno urno plačilo.
- Priložnost za sodelovanje z vodilnimi raziskovalci.
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo, ob upoštevanju veljavnih omejitev.
- Na zahtevo so na voljo razumne prilagoditve.