51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i kannada)
Provodi adversarijalno testiranje Mercorovih naprednih modela umjetne inteligencije koristeći se unosima na engleskom i kannadi radi otkrivanja ranjivosti. Izrađuj ponovljive sigurnosne podatke, napadačke slučajeve i izvješća za korisnike umjetne inteligencije.
Opis
- Testiraj konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, ubrizgavanja upita, scenarija zlouporabe, iskorištavanja pristranosti i višekružne manipulacije
- Izrađuj podatke koje generiraju ljudi označavanjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koristi se etabliranim taksonomijama, referentnim testovima i priručnicima za dosljedno vrednovanje
- Razvijaj ponovljiva izvješća, skupove podataka i napadačke slučajeve koje korisnici mogu upotrebljavati
- Procjenjuj rezultate umjetne inteligencije na osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Pronalazi slabosti koje automatizirana vrednovanja mogu previdjeti
- Proširuj obuhvat vrednovanja kako bi se spriječili neočekivani problemi u produkciji
- Doprinosi projektima koji treniraju i poboljšavaju sustave umjetne inteligencije za Mercorov AI laboratorij i poslovne korisnike
Zahtjevi
- Izvorno ili tečno znanje engleskog i kannade
- Razboritost pri procjeni jezika i sadržaja, uključujući točnost, potpunost i primjerenost odgovora umjetne inteligencije
- Sposobnost jasnog objašnjavanja zaključivanja tehničkoj i netehničkoj publici
- Pažnja posvećena suptilnim pogreškama, nedosljednostima i izostancima
- Sposobnost dosljedne primjene taksonomija, referentnih testova, priručnika, smjernica i standarda kvalitete
- Fleksibilnost pri radu na različitim projektima, formatima zadataka i s različitim korisnicima
- Moraš raditi kao neovisni ugovorni suradnik
- Kandidati ne smiju podnositi zahtjev za status H-1B ili STEM OPT
- Prednost je iskustvo u adversarijalnom strojnom učenju, uključujući skupove podataka za jailbreakove, ubrizgavanje upita, napade RLHF-a ili DPO-a te ekstrakciju modela
- Prednost je znanje iz kibernetičke sigurnosti, uključujući penetracijsko testiranje, razvoj exploita ili reverzno inženjerstvo
- Prednost je iskustvo sa sociotehničkim rizicima, poput ispitivanja uznemiravanja ili dezinformacija, analize zlouporabe ili testiranja konverzacijske umjetne inteligencije
- Prednost je iskustvo iz psihologije, glume ili pisanja koje podržava nekonvencionalno adversarijalno razmišljanje
Pogodnosti
- Potpuno udaljeni ugovorni rad uz fleksibilno raspoređivanje
- Tjedna isplata putem Stripea ili Wisea na temelju pruženih usluga
- Prilika za razvoj iskustva u ljudskim podacima vođenom red teamingu umjetne inteligencije usmjerenom na sigurnost naprednih sustava
- Smislen doprinos tome da sustavi umjetne inteligencije budu otporniji, sigurniji i pouzdaniji
- Resursi za dobrobit i jasno definirane smjernice za projekte koji uključuju sadržaj veće osjetljivosti
- Na zahtjev su dostupne razumne prilagodbe
- Naknade za preporuke do 90 USD po uspješnoj preporuci, podložno primjenjivim ograničenjima