51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnosni red teaming umjetne inteligencije (engleski i teluški) – rad na daljinu po ugovoru
Testirajte konverzacijske modele umjetne inteligencije na zaobilaženje zaštitnih mjera, ubrizgavanje upita, zlouporabu, pristranost i druge sigurnosne propuste. Dokumentirajte ponovljive ranjivosti i podatke za procjenu za korisnike istraživanja umjetne inteligencije.
Opis
- Protivničko testiranje konverzacijskih modela i agenata umjetne inteligencije na zaobilaženje zaštitnih mjera, ubrizgavanje upita, zlouporabu, iskorištavanje pristranosti i manipulaciju kroz više poruka
- Bilježenje neuspjeha testiranja, kategoriziranje ranjivosti i prepoznavanje sistemskih rizika
- Primjena utvrđenih taksonomija, referentnih testova i priručnika za održavanje dosljednih procjena
- Izrada ponovljivih izvješća, skupova podataka i scenarija napada za korisnike
- Procjena odgovora umjetne inteligencije na osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Pronalaženje slabosti koje automatizirane metode procjene ne uspijevaju otkriti
- Proširivanje obuhvata procjene radi sprječavanja neočekivanih problema u produkciji
- Poboljšavanje korisničkih sustava umjetne inteligencije ponovljivim protivničkim testiranjem
Zahtjevi
- Izvorno poznavanje engleskog i teluškog jezika
- Dobra prosudba pri procjeni jezika i sadržaja s obzirom na točnost, potpunost i primjerenost
- Sposobnost jasnog objašnjavanja načina razmišljanja tehničkoj i netehničkoj publici
- Pažljivo uočavanje suptilnih pogrešaka, nedosljednosti i izostavljenih elemenata
- Sposobnost dosljednog pridržavanja smjernica i standarda kvalitete
- Fleksibilnost u radu na različitim projektima, formatima zadataka i s korisnicima
- Angažman kao neovisni ugovaratelj
- Sposobnost rada bez korištenja povjerljivih ili vlasničkih informacija bilo kojeg poslodavca, klijenta ili institucije
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljeni rad koji se može obavljati prema vlastitom rasporedu
- Tjedne isplate putem Stripea ili Wisea za pružene usluge
- Mogućnost sudjelovanja u projektima koji uključuju osjetljivije teme
- Smjernice i resursi za dobrobit pri radu s osjetljivim sadržajem
- Iskustvo u izgradnji stručnosti za protivničko testiranje umjetne inteligencije temeljeno na ljudskim podacima
- Prilika za pomoć u stvaranju sigurnijih, robusnijih i pouzdanijih sustava umjetne inteligencije
- Mogućnosti suradnje s vodećim istraživačima
- Naknade za preporuke u iznosu do 90 USD za svaku uspješnu preporuku, podložno primjenjivim ograničenjima