51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i marati) u Mercoru
Ispitujte ranjivosti konverzacijskih modela umjetne inteligencije red-team testiranjem na engleskom i maratiju. Izrađujte ponovljive skupove podataka, napadačke slučajeve i izvješća za projekte sigurnosti umjetne inteligencije temeljene na ljudskim podacima.
Opis
- Provode red-team testiranje konverzacijskih modela i agenata umjetne inteligencije pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Stvarajte ljudske podatke označavanjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Upotrebljavajte taksonomije, referentne testove i priručnike za dosljedno ocjenjivanje
- Razvijajte ponovljiva izvješća, skupove podataka i napadačke slučajeve za klijente
- Procjenjujte izlaze umjetne inteligencije koji uključuju osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Prepoznajte slabosti koje automatizirano testiranje može previdjeti
- Proširujte obuhvat evaluacije kako biste pomogli spriječiti neočekivane probleme u produkciji
- Podržavajte klijente u poboljšanju sigurnosti, robusnosti i pouzdanosti njihovih sustava umjetne inteligencije
Zahtjevi
- Potrebno je tečno ili izvorno znanje engleskog i maratija
- Razborita procjena jezika i sadržaja, uključujući sposobnost procjene jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja obrazloženja
- Izvanredna pozornost prema suptilnim pogreškama, nedosljednostima i propustima
- Dosljedno pridržavanje utvrđenih smjernica i standarda kvalitete
- Jasno komuniciranje obrazloženja tehničkoj i netehničkoj publici
- Sposobnost prilagodbe različitim projektima, formatima zadataka i klijentima
- Potrebno je raditi kao neovisni ugovaratelj
- Kandidati s vizama H1-B i STEM OPT nisu podržani
- Prednost je iskustvo u adversarijalnom strojnom učenju sa skupovima podataka za jailbreakove, prompt injectionom, RLHF ili DPO napadima ili ekstrakcijom modela
- Prednost je iskustvo u kibernetičkoj sigurnosti, uključujući penetracijsko testiranje, razvoj exploita ili reverzno inženjerstvo
- Prednost je iskustvo sa sociotehničkim rizicima koji uključuju ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije
- Prednost je iskustvo iz psihologije, glume ili pisanja koje podupire nekonvencionalno adversarijalno razmišljanje
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored uz mogućnost odabira vlastitog radnog vremena
- Tjedne isplate putem Stripea ili Wisea na temelju pruženih usluga
- Trajanje projekta može se produljiti, skratiti ili ranije završiti u skladu s poslovnim potrebama i učinkom
- Resursi za dobrobit i jasne smjernice za projekte koji uključuju sadržaj veće osjetljivosti
- Na zahtjev su dostupne razumne prilagodbe
- Program preporuka nudi do 90 USD za svaku uspješnu preporuku, bez ograničenja broja preporuka
- Prilika za suradnju s vodećim istraživačima
- Iskustvo provođenja red-team testiranja umjetne inteligencije temeljenog na ljudskim podacima na čelu sigurnosti umjetne inteligencije