51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence – angleščina in asamščina | Pogodbeno delo na daljavo za Mercor
Izvajajte adversarialno testiranje najsodobnejših modelov umetne inteligence za odkrivanje jailbreakov, pristranskosti, zlorab in drugih varnostnih tveganj. Ustvarjajte anotacije človeških podatkov, klasifikacije ranljivosti in ponovljive dokaze napadov za stranke podjetja Mercor.
Opis
- Adversarialno testiranje pogovornih modelov in agentov umetne inteligence za jailbreak, vbrizgavanje pozivov, zlorabo, izkoriščanje pristranskosti in večkrožno manipulacijo
- Ustvarjanje anotacij človeških podatkov, razvrščanje napak in prepoznavanje sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za standardizacijo vrednotenj
- Dostavljanje ponovljivih poročil, podatkovnih nizov in primerov napadov strankam
- Ocenjevanje odgovorov umetne inteligence, ki vključujejo pristranskost, napačne informacije, škodljivo vedenje in druge občutljive teme
- Iskanje šibkosti, ki jih avtomatizirano testiranje ne zazna
- Razširjanje obsega vrednotenja za pomoč pri preprečevanju nepričakovanih težav v produkciji
- Izboljševanje sistemov umetne inteligence strank s strukturiranim adversarialnim testiranjem
Zahteve
- Tekoče znanje angleščine in asamščine na ravni maternega govorca
- Zdrava presoja pri ocenjevanju jezika in vsebine glede točnosti, popolnosti in ustreznosti
- Sposobnost zaznavanja subtilnih napak, nedoslednosti in izpustov
- Dosledno upoštevanje smernic in standardov kakovosti
- Jasno sporazumevanje o razlogih s tehničnim in netehničnim občinstvom
- Prilagodljivost pri različnih projektih, oblikah nalog in potrebah strank
- Zaželene so izkušnje z adversarialnim strojnim učenjem, vključno s podatkovnimi nizi za jailbreak, vbrizgavanjem pozivov, napadi RLHF ali DPO oziroma ekstrakcijo modelov
- Zaželene so izkušnje na področju kibernetske varnosti, vključno s penetracijskim testiranjem, razvojem izkoriščanj ali obratnim inženirstvom
- Zaželene so izkušnje s sociotehničnimi tveganji, vključno s preverjanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Zaželene so izkušnje s psihologijo, igranjem ali pisanjem, ki podpirajo nekonvencionalno adversarialno razmišljanje
- Delati morate kot samostojni pogodbeni izvajalec
- Kandidati z vizumi H-1B in STEM OPT niso podprti
Ugodnosti
- Delo je v celoti na daljavo
- Sami izberite svoj delovni urnik
- Tedenska plačila prek Stripe ali Wise
- Pridobite praktične izkušnje z red teamingom umetne inteligence, ki temelji na človeških podatkih
- Pomagajte izboljšati robustnost, varnost in zanesljivost sistemov umetne inteligence
- Delajte z vodilnimi raziskovalci
- Na zahtevo so na voljo razumne prilagoditve
- Za uspešne napotitve lahko prejmete nagrade do 90 USD