51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i bengalski (ugovorni rad na daljinu)
Mercor traži stručnjaka za red teaming sigurnosti umjetne inteligencije koji govori engleski i bengalski te će prepoznavati ranjivosti u konverzacijskim sustavima umjetne inteligencije. Posao uključuje izradu ponovljivih napadačkih slučajeva i podataka koje stvaraju ljudi za treniranje naprednih modela u AI laboratorijima.
Opis
- Testiranje konverzacijskih modela i agenata umjetne inteligencije pomoću jailbreakova, ubrizgavanja promptova, scenarija zlouporabe, iskorištavanja pristranosti i višekružne manipulacije
- Izrada podataka koje stvaraju ljudi označavanjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Korištenje utvrđenih taksonomija, referentnih testova i priručnika za dosljedno provođenje procjena
- Isporuka ponovljivih izvještaja, skupova podataka i napadačkih slučajeva korisnicima
- Procjena odgovora umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Proširivanje obuhvata procjena i doprinos sigurnijim sustavima umjetne inteligencije za korisnike
Zahtjevi
- Izvorno ili tečno poznavanje engleskog i bengalskog jezika
- Razborito prosuđivanje pri procjeni jezika i sadržaja, uključujući sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja procjene
- Izražena pozornost prema suptilnim pogreškama, nedosljednostima i propustima
- Pouzdano pridržavanje smjernica za testiranje i standarda kvalitete
- Jasno prenošenje obrazloženja tehničkoj i netehničkoj publici
- Spremnost na prilagodbu različitim projektima, formatima zadataka i korisnicima
- Sposobnost rada kao neovisni ugovaratelj
- Ne smije zahtijevati sponzorstvo za vizu H-1B ili STEM OPT
- Prednost je iskustvo u adversarijalnom strojnom učenju s bazama podataka za jailbreakove, ubrizgavanjem promptova, RLHF/DPO napadima ili ekstrakcijom modela
- Prednost je iskustvo u kibernetičkoj sigurnosti, penetracijskom testiranju, razvoju exploita ili obrnutom inženjerstvu
- Prednost je iskustvo sa sociotehničkim rizicima, uključujući ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije
- Prednost je iskustvo iz psihologije, glume ili pisanja koje podupire nekonvencionalno adversarijalno razmišljanje
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored prema vlastitoj dostupnosti
- Tjedne isplate putem Stripea ili Wisea
- Mogućnost odabira sudjelovanja u projektima veće osjetljivosti
- Pristup jasnim smjernicama i resursima za dobrobit pri zadacima s osjetljivim sadržajem
- Konkurentna naknada
- Stjecanje iskustva u red teamingu umjetne inteligencije temeljenom na podacima koje stvaraju ljudi
- Suradnja s vodećim istraživačima umjetne inteligencije
- Isplate za preporuke u iznosu do 90 USD za svaku uspješnu preporuku