51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence – angleščina in pandžabščina
Delo na daljavo po pogodbi za strokovnjake za varnost umetne inteligence, ki tekoče govorijo angleško in pandžabsko ter podpirajo Mercorjeve projekte red teaminga pogovorne umetne inteligence. Preizkušajte jailbreak napade, vbrizgavanje pozivov, tveganja škodljive vsebine in ranljivosti modelov ter dokumentirajte ponovljive ugotovitve.
Opis
- Izvajanje nasprotnikovega testiranja pogovornih modelov in agentov umetne inteligence z jailbreak napadi, vbrizgavanjem pozivov, scenariji zlorabe, izkoriščanjem pristranskosti in večkoračno manipulacijo
- Ustvarjanje podatkov, ki jih ustvarijo ljudje, z označevanjem napak, kategoriziranjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za zagotavljanje doslednega ocenjevanja
- Priprava ponovljivih poročil, podatkovnih zbirk in primerov napadov za stranke
- Ocenjevanje izhodov umetne inteligence glede pristranskosti, dezinformacij, škodljivega vedenja in drugih tveganj občutljive vsebine
- Prepoznavanje šibkosti, ki jih avtomatizirane ocene lahko spregledajo
- Širjenje obsega ocenjevanja za pomoč pri omejevanju nepričakovanih težav v produkciji
- Izboljševanje sistemov umetne inteligence strank s strukturiranim nasprotnikovim testiranjem
Zahteve
- Tekoče znanje angleščine in pandžabščine na ravni maternega govorca
- Dobra presoja pri ocenjevanju jezika in vsebine
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in ustrezni, ter razložiti oceno
- Izjemna pozornost do subtilnih napak, nedoslednosti in izpustov
- Dosledno upoštevanje smernic in standardov kakovosti
- Jasno sporazumevanje o razlogih za oceno s tehničnim in netehničnim občinstvom
- Sposobnost prilagajanja različnim projektom, oblikam nalog in strankam
- Status neodvisnega izvajalca
- Ne smete biti kandidat za H-1B ali STEM OPT
- Prednost: izkušnje z nasprotnikovim strojnim učenjem, vključno s podatkovnimi zbirkami za jailbreak napade, vbrizgavanjem pozivov, napadi RLHF/DPO ali ekstrakcijo modelov
- Prednost: izkušnje s kibernetsko varnostjo, vključno s penetracijskim testiranjem, razvojem izkoriščanj ali obratnim inženirstvom
- Prednost: izkušnje s sociotehničnimi tveganji, vključno s preverjanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Prednost: izkušnje iz psihologije, igranja ali pisanja, ki podpirajo nekonvencionalno nasprotnikovo razmišljanje
Ugodnosti
- Popolnoma delo na daljavo
- Prilagodljiv urnik z možnostjo dela po lastnem razporedu
- Tedenska plačila prek Stripe ali Wise
- Projekti se lahko glede na poslovne potrebe in uspešnost podaljšajo, skrajšajo ali predčasno končajo
- Neobvezno sodelovanje pri projektih z večjo občutljivostjo
- Na voljo so smernice za vsebino in viri za dobro počutje
- Konkurenčno plačilo
- Na zahtevo so na voljo razumne prilagoditve
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo, ob upoštevanju omejitev priporočil