51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i marati (rad na daljinu)
Mercor traži stručnjake za sigurnost umjetne inteligencije koji govore engleski i marati za red-team testiranje konverzacijskih modela i agenata. Posao uključuje prepoznavanje ranjivosti, procjenu osjetljivih izlaza te izradu reproducibilnih sigurnosnih podataka za AI laboratorije i korisnike.
Opis
- Provode red-team testiranje konverzacijskih AI modela i agenata koristeći jailbreakove, prompt injection, scenarije zlouporabe, iskorištavanje pristranosti i manipulaciju kroz više poruka
- Izrađuju podatke za ljudsko vrednovanje označavanjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koriste utvrđene taksonomije, referentne testove i priručnike za dosljedno vrednovanje
- Razvijaju reproducibilna izvješća, skupove podataka i slučajeve napada za korisnike
- Procjenjuju AI izlaze povezane s pristranošću, dezinformacijama, štetnim ponašanjem i drugim osjetljivim temama
- Prepoznaju ranjivosti koje automatizirano testiranje može previdjeti
- Proširuju obuhvat vrednovanja kako bi se smanjili neočekivani problemi u produkciji
- Pomažu korisnicima poboljšati sigurnost, robusnost i pouzdanost njihovih AI sustava
Zahtjevi
- Izvorna razina znanja engleskog i maratija
- Izvrsna prosudba pri vrednovanju jezika i sadržaja, uključujući procjenu jesu li AI odgovori točni, potpuni i primjereni
- Sposobnost otkrivanja suptilnih pogrešaka, nedosljednosti i propusta
- Sposobnost dosljednog pridržavanja smjernica i standarda kvalitete
- Sposobnost jasnog objašnjavanja zaključaka tehničkoj i netehničkoj publici
- Prilagodljivost različitim projektima, vrstama zadataka i korisnicima
- Sposobnost rada kao neovisni ugovorni suradnik
- Ne smije biti potrebna podrška za vizu H-1B ili STEM OPT
- Prednost je iskustvo u adversarnom strojnom učenju s jailbreak skupovima podataka, prompt injection napadima, RLHF ili DPO napadima ili ekstrakcijom modela
- Prednost je iskustvo u kibernetičkoj sigurnosti, uključujući penetracijsko testiranje, razvoj exploita ili reverzno inženjerstvo
- Prednost je iskustvo sa socio-tehničkim rizicima, uključujući ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske AI
- Prednost je iskustvo iz psihologije, glume ili pisanja koje podupire nekonvencionalno adversarno razmišljanje
Pogodnosti
- Potpuno udaljeni rad koji se može obavljati prema vlastitom rasporedu
- Tjedne isplate putem Stripea ili Wisea
- Mogućnost dobrovoljnog sudjelovanja u projektima veće osjetljivosti
- Jasne smjernice i resursi za dobrobit pri radu s osjetljivim sadržajem
- Konkurentna naknada
- Prilika za suradnju s vodećim istraživačima
- Naknade za preporuke do 90 USD za svaku uspješnu preporuku, uz određena ograničenja