51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnostno rdeče ekipiranje umetne inteligence (angleščina in teluščina) – pogodbeno delo na daljavo
Preizkušajte pogovorne modele umetne inteligence glede zaobidenja zaščit, vbrizgavanja pozivov, zlorabe, pristranskosti in drugih varnostnih pomanjkljivosti. Dokumentirajte ponovljive ranljivosti in podatke vrednotenja za naročnike raziskav umetne inteligence.
Opis
- Adverzno preizkušanje pogovornih modelov in agentov umetne inteligence glede zaobidenja zaščit, vbrizgavanja pozivov, zlorabe, izkoriščanja pristranskosti in večkoračne manipulacije
- Anotiranje neuspehov pri preizkusih, razvrščanje ranljivosti in prepoznavanje sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za zagotavljanje doslednih ocen
- Ustvarjanje ponovljivih poročil, podatkovnih nizov in scenarijev napadov za naročnike
- Ocenjevanje odzivov umetne inteligence na občutljive teme, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem
- Iskanje šibkosti, ki jih avtomatizirane metode vrednotenja ne zaznajo
- Širjenje obsega vrednotenja za pomoč pri preprečevanju nepričakovanih težav v produkciji
- Izboljševanje sistemov umetne inteligence naročnikov s ponovljivim adverznim preizkušanjem
Zahteve
- Tekoče znanje angleščine in teluščine na ravni maternega govorca
- Dobra presoja pri ocenjevanju jezika in vsebine glede točnosti, popolnosti in primernosti
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu
- Skrbna pozornost do subtilnih napak, nedoslednosti in izpustov
- Sposobnost doslednega upoštevanja smernic in standardov kakovosti
- Prilagodljivost pri različnih projektih, oblikah nalog in naročnikih
- Sodelovanje kot neodvisni pogodbenik
- Sposobnost dela brez uporabe zaupnih ali lastniških informacij katerega koli delodajalca, naročnika ali ustanove
- Kandidati z vizumoma H-1B in STEM OPT niso podprti
Ugodnosti
- Povsem oddaljeno delo, ki ga je mogoče opravljati po samostojno določenem urniku
- Tedenska plačila prek Stripe ali Wise za opravljene storitve
- Možnost sodelovanja pri projektih, ki vključujejo občutljivejše vsebine
- Smernice in viri za dobro počutje pri delu z občutljivo vsebino
- Izkušnje z gradnjo strokovnega znanja za rdeče ekipiranje umetne inteligence na podlagi človeških podatkov
- Priložnost pomagati pri zagotavljanju varnejših, robustnejših in zaupanja vrednejših sistemov umetne inteligence
- Priložnosti za sodelovanje z vodilnimi raziskovalci
- Plačila za priporočila v višini do 90 USD za vsako uspešno priporočilo, ob upoštevanju veljavnih omejitev