51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence na daljavo (angleščina in kanada)
Izvajajte adversarialno testiranje najsodobnejših Mercorjevih modelov umetne inteligence z vnosi v angleščini in kanadščini, da bi odkrili ranljivosti. Ustvarjajte ponovljive varnostne podatke, primere napadov in poročila za stranke na področju umetne inteligence.
Opis
- Preizkušajte pogovorne modele in agente umetne inteligence z jailbreaki, vbrizgavanjem pozivov, scenariji zlorabe, izkoriščanjem pristranskosti in večkrožno manipulacijo
- Ustvarjajte podatke, ki jih pripravijo ljudje, z označevanjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporabljajte uveljavljene taksonomije, primerjalne teste in priročnike za dosledno ocenjevanje
- Razvijajte ponovljiva poročila, nabore podatkov in primere napadov, ki jih lahko uporabljajo stranke
- Ocenjujte rezultate umetne inteligence pri občutljivih temah, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem
- Odkrivajte slabosti, ki jih avtomatizirana ocenjevanja lahko spregledajo
- Širite obseg ocenjevanja, da bi pomagali preprečiti nepričakovane težave v produkciji
- Prispevajte k projektom za usposabljanje in izboljševanje sistemov umetne inteligence za Mercorjev laboratorij AI in poslovne stranke
Zahteve
- Materno ali tekoče znanje angleščine in kanade
- Dobra presoja pri ocenjevanju jezika in vsebine, vključno z natančnostjo, popolnostjo in primernostjo odgovorov umetne inteligence
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu
- Natančnost pri opažanju subtilnih napak, nedoslednosti in opustitev
- Sposobnost dosledne uporabe taksonomij, primerjalnih testov, priročnikov, smernic in standardov kakovosti
- Prilagodljivost pri delu na različnih projektih, v različnih oblikah nalog in za različne stranke
- Delati morate kot neodvisni pogodbeni izvajalec
- Kandidati ne smejo zaprositi za status H-1B ali STEM OPT
- Prednost so izkušnje z adversarialnim strojnim učenjem, vključno z zbirkami podatkov za jailbreak, vbrizgavanjem pozivov, napadi RLHF ali DPO ter ekstrakcijo modelov
- Prednost je znanje s področja kibernetske varnosti, vključno s penetracijskim testiranjem, razvojem izkoriščanj ali povratnim inženirstvom
- Prednost so izkušnje s sociotehničnimi tveganji, na primer s preizkušanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Prednost so izkušnje iz psihologije, igranja ali pisanja, ki podpirajo nekonvencionalno adversarialno razmišljanje
Ugodnosti
- Popolnoma oddaljeno pogodbeno delo s prilagodljivim urnikom
- Tedensko plačilo prek Stripe ali Wise glede na opravljene storitve
- Priložnost za pridobivanje izkušenj pri red teamingu umetne inteligence, ki temelji na človeških podatkih in je osredotočen na varnost najsodobnejših sistemov
- Pomemben prispevek k temu, da bodo sistemi umetne inteligence robustnejši, varnejši in vredni zaupanja
- Viri za dobro počutje in jasno opredeljene smernice za projekte z vsebinami večje občutljivosti
- Na zahtevo so na voljo razumne prilagoditve
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo, ob upoštevanju veljavnih omejitev