51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence – angleščina in maratščina (pogodbeno delo na daljavo)
Mercor išče strokovnjaka za varnost umetne inteligence, ki tekoče govori angleško in maratščino ter izvaja red teaming pogovornih sistemov umetne inteligence. Pogodbena vloga je osredotočena na adversarno testiranje, analizo ranljivosti in jasno poročanje za projekte s človeškimi podatki in frontier AI.
Opis
- Preizkušajte pogovorne modele in agente umetne inteligence glede jailbreakov, vbrizgavanja pozivov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Ustvarjajte podatkovna sredstva s človeškim prispevkom z označevanjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporabljajte uveljavljene taksonomije, primerjalna merila in priročnike za zagotavljanje doslednega ocenjevanja
- Dostavljajte ponovljive primere napadov, podatkovne nize in poročila za stranke
- Ocenjujte odzive umetne inteligence na občutljive teme, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem
- Odkrivajte šibkosti, ki jih avtomatizirane metode ocenjevanja lahko spregledajo
- Razširjajte obseg testiranja, da pomagate preprečiti nepričakovane težave v produkciji
- Strankam pomagajte izboljšati varnost, robustnost in zanesljivost njihovih sistemov umetne inteligence
- Sodelujte z vodilnimi raziskovalci pri pobudah za usposabljanje in napredovanje frontier modelov umetne inteligence
Zahteve
- Materni ali tekoč govorjeni angleški in maratščina
- Zdrava presoja pri ocenjevanju jezika in vsebine
- Sposobnost ugotoviti, ali so odzivi umetne inteligence točni, popolni in ustrezni, z jasnimi razlagami
- Natančna pozornost do niansiranih napak, nedoslednosti in izpustov
- Zanesljivo upoštevanje smernic za testiranje in zahtev glede kakovosti
- Jasno sporočanje razlogov tehničnemu in netehničnemu občinstvu
- Prilagodljivost pri delu na različnih projektih, nalogah in za različne stranke
- Sposobnost dela kot neodvisni pogodbeni izvajalec
- Ne smejo potrebovati sponzorstva za H-1B ali STEM OPT
- Prednost: izkušnje z adversarnim strojnim učenjem, vključno s podatkovnimi nizi za jailbreak, vbrizgavanjem pozivov, napadi RLHF/DPO ali ekstrakcijo modelov
- Prednost: izkušnje s kibernetsko varnostjo na področju penetracijskega testiranja, razvoja izkoriščanj ali obratnega inženirstva
- Prednost: izkušnje s sociotehničnimi tveganji, vključno s preverjanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Prednost: izkušnje iz psihologije, igre ali pisanja, ki podpirajo nekonvencionalno adversarno razmišljanje
Ugodnosti
- Popolnoma oddaljeno pogodbeno delo
- Prilagodljiv urnik z možnostjo samostojnega določanja delovnega časa
- Tedenska plačila prek Stripe ali Wise
- Trajanje projekta se lahko spremeni ali se projekt predčasno konča glede na poslovne potrebe in uspešnost
- Neobvezno sodelovanje pri projektih, ki vključujejo vsebine z večjo občutljivostjo
- Jasne smernice in viri za dobro počutje pri nalogah z občutljivo vsebino
- Na zahtevo so na voljo razumne prilagoditve
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo