51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i gudžaratski) – ugovorni angažman
Mercor traži stručnjaka za sigurnost umjetne inteligencije koji tečno govori engleski i gudžaratski za ugovorni angažman na red-team testiranju naprednih modela umjetne inteligencije. Posao uključuje testiranje ranjivosti, procjenu pogrešaka te izradu ponovljivih skupova podataka i slučajeva napada.
Opis
- Testiranje konverzacijskih modela i agenata umjetne inteligencije na zaobilaženje zaštita, ubrizgavanje upita, scenarije zlouporabe, iskorištavanje pristranosti i manipulaciju kroz više poruka
- Izrada podataka koje generiraju ljudi označavanjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Korištenje utvrđenih taksonomija, referentnih testova i priručnika za dosljedno provođenje procjena
- Izrada ponovljivih izvješća za korisnike, skupova podataka i slučajeva napada
- Procjena izlaza umjetne inteligencije na osjetljiva pitanja, uključujući pristranost, dezinformacije i štetno ponašanje
- Pronalaženje slabosti koje automatizirano testiranje ne otkriva
- Proširivanje obuhvata procjene kako bi se pomoglo u sprječavanju neočekivanih problema u produkciji
- Doprinos projektima za treniranje i poboljšavanje naprednih sustava umjetne inteligencije
Zahtjevi
- Izvorno ili tečno znanje engleskog i gudžaratskog jezika
- Razborita procjena pri vrednovanju jezika i sadržaja s obzirom na točnost, potpunost i primjerenost
- Sposobnost otkrivanja nijansiranih pogrešaka, nedosljednosti i propusta
- Dosljedno pridržavanje utvrđenih smjernica i standarda kvalitete
- Jasno objašnjavanje načina razmišljanja tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i potrebama korisnika
- Angažman kao neovisni ugovorni suradnik
- Kandidati s vizama H-1B i STEM OPT nisu prihvatljivi
- Prednost je iskustvo s napadačkim strojnim učenjem, uključujući skupove podataka za zaobilaženje zaštita, ubrizgavanje upita, napade RLHF/DPO ili izdvajanje modela
- Prednost je iskustvo u kibernetičkoj sigurnosti, uključujući penetracijsko testiranje, razvoj exploita ili reverzno inženjerstvo
- Prednost je iskustvo sa sociotehničkim rizicima koje uključuje ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije
- Prednost je iskustvo iz psihologije, glume ili pisanja koje podupire nekonvencionalno napadačko razmišljanje
Pogodnosti
- Rad na daljinu iz Sjedinjenih Američkih Država
- Odabir fleksibilnog rasporeda koji odgovara vašoj dostupnosti
- Tjedne isplate putem Stripea ili Wisea
- Mogućnost uključivanja u projekte s većom razinom osjetljivosti ili odustajanja od njih
- Pristup jasnim smjernicama i resursima za dobrobit pri radu na zadacima s osjetljivim sadržajem
- Konkurentna satnica
- Na zahtjev su dostupne razumne prilagodbe
- Mogućnost zarade do 90 USD za svaku uspješnu preporuku, uz primjenjiva ograničenja