51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije (engleski i pandžapski)
Provjeravajte konverzacijske modele i agente umjetne inteligencije adversarijalnim testiranjem na engleskom i pandžapskom jeziku. Izrađujte anotacije ranjivosti, napadačke slučajeve, skupove podataka i reproducibilna sigurnosna izvješća za Mercorove projekte sigurnosti umjetne inteligencije koji se temelje na ljudskim podacima.
Opis
- Ispitujte konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, injekcija upita, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Izrađujte anotacije ljudskih podataka dokumentiranjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koristite utvrđene taksonomije, referentne testove i priručnike kako biste održali dosljedno ocjenjivanje
- Isporučujte klijentima reproducibilna izvješća, skupove podataka i napadačke slučajeve
- Procjenjujte rezultate umjetne inteligencije povezane s pristranošću, dezinformacijama, štetnim ponašanjem i drugim osjetljivim temama
- Proširujte obuhvat procjene kako biste prepoznali ranjivosti koje automatizirano testiranje može previdjeti
- Pomozite poboljšati sigurnost, otpornost i pouzdanost klijentskih sustava umjetne inteligencije
Zahtjevi
- Izvorno ili tečno znanje engleskog i pandžapskog jezika
- Dobar prosudbeni osjećaj pri procjeni točnosti, potpunosti i primjerenosti sadržaja koji generira umjetna inteligencija
- Sposobnost otkrivanja nijansiranih pogrešaka, nedosljednosti i izostavljenih informacija
- Dosljedno pridržavanje smjernica, taksonomija, referentnih testova, priručnika i standarda kvalitete
- Jasno komuniciranje obrazloženja tehničkoj i netehničkoj publici
- Fleksibilnost pri radu na različitim projektima, formatima zadataka i zahtjevima klijenata
- Sposobnost rada kao samostalni ugovorni suradnik
- Kandidati s vizama H1-B i STEM OPT nisu podržani
- Korisno iskustvo u adversarijalnom strojnom učenju, skupovima podataka za jailbreakove, napadima injekcijom upita ili RLHF/DPO napadima, ekstrakciji modela, penetracijskom testiranju, razvoju exploita, obrnutom inženjerstvu, ispitivanju uznemiravanja ili dezinformacija, analizi zlouporabe, testiranju konverzacijske umjetne inteligencije, psihologiji, glumi ili nekonvencionalnom adversarijalnom pisanju
Pogodnosti
- Potpuno udaljeni rad uz fleksibilan raspored kojim samostalno upravljate
- Tjedne isplate putem Stripea ili Wisea
- Konkurentna naknada
- Resursi za dobrobit i jasne smjernice za projekte veće osjetljivosti
- Na zahtjev su dostupne razumne prilagodbe
- Naknade za preporuke do 90 USD za svaku uspješnu preporuku
- Mogućnosti suradnje s vodećim istraživačima
- Praktično iskustvo s red teamingom umjetne inteligencije koji se temelji na ljudskim podacima, na čelu razvoja sigurnosti umjetne inteligencije