51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i asamski | Ugovorni rad na daljinu za Mercor
Provodi adversarijalno testiranje naprednih modela umjetne inteligencije radi otkrivanja jailbreakova, pristranosti, zlouporabe i drugih sigurnosnih rizika. Izrađuj anotacije ljudskih podataka, klasifikacije ranjivosti i ponovljive dokaze napada za korisnike tvrtke Mercor.
Opis
- Adversarijalno testiranje konverzacijskih modela i agenata umjetne inteligencije na jailbreakove, ubrizgavanje promptova, zlouporabu, iskorištavanje pristranosti i manipulaciju kroz više krugova
- Izrada anotacija ljudskih podataka, klasifikacija kvarova i prepoznavanje sistemskih rizika
- Upotreba etabliranih taksonomija, referentnih testova i priručnika za standardizaciju evaluacija
- Isporuka ponovljivih izvještaja, skupova podataka i slučajeva napada korisnicima
- Procjena odgovora umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Pronalaženje slabosti koje automatizirano testiranje ne otkriva
- Proširivanje obuhvata evaluacija kako bi se pomoglo u sprječavanju neočekivanih problema u produkciji
- Poboljšavanje korisničkih sustava umjetne inteligencije strukturiranim adversarijalnim testiranjem
Zahtjevi
- Izvorna razina znanja engleskog i asamskog jezika
- Dobar rasudbeni kapacitet pri procjeni točnosti, potpunosti i prikladnosti jezika i sadržaja
- Sposobnost otkrivanja suptilnih pogrešaka, nedosljednosti i izostavljenih elemenata
- Dosljedno pridržavanje smjernica i standarda kvalitete
- Jasno objašnjavanje zaključaka tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i potrebama korisnika
- Poželjno je iskustvo s adversarijalnim strojnim učenjem, uključujući skupove podataka za jailbreakove, ubrizgavanje promptova, RLHF ili DPO napade te ekstrakciju modela
- Poželjno je iskustvo u kibernetičkoj sigurnosti, uključujući penetracijsko testiranje, razvoj exploita ili obrnuto inženjerstvo
- Poželjno je iskustvo sa sociotehničkim rizicima, uključujući ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije
- Poželjno je iskustvo iz psihologije, glume ili pisanja koje podupire nekonvencionalno adversarijalno razmišljanje
- Potrebno je raditi kao neovisni ugovaratelj
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Rad u potpunosti na daljinu
- Samostalno odaberite svoj raspored rada
- Tjedne isplate putem Stripea ili Wisea
- Steknite praktično iskustvo u ljudskim podacima utemeljenom red teamingu umjetne inteligencije
- Pomozite da sustavi umjetne inteligencije budu otporniji, sigurniji i pouzdaniji
- Radite s vodećim istraživačima
- Na zahtjev su dostupne razumne prilagodbe
- Za uspješne preporuke možete zaraditi naknade do 90 USD