51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije – engleski i tamilski, rad na daljinu po ugovoru
Testirajte konverzacijske modele i agente umjetne inteligencije na ranjivosti pomoću protivničkog ispitivanja i strukturirane red-team analize. Izrađujte napadačke slučajeve, podatke o ranjivostima i ponovljive izvještaje za korisnike Mercorova AI laboratorija.
Opis
- Ispitujte konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Izrađujte podatke s ljudskim oznakama dokumentiranjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Upotrebljavajte uspostavljene taksonomije, referentne testove i priručnike kako biste održali dosljedne procjene
- Razvijajte ponovljive izvještaje, skupove podataka i napadačke slučajeve za korisnike
- Procjenjujte izlaze umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Prepoznajte slabosti koje automatizirano testiranje može previdjeti
- Proširujte obuhvat procjene i pomozite spriječiti neočekivane probleme u produkciji
- Unapređujte korisničke AI sustave i doprinosite sigurnijim i pouzdanijim modelima
Zahtjevi
- Izvorna razina znanja engleskog i tamilskog jezika
- Razborito prosuđivanje pri procjeni jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja procjene
- Pažljivo uočavanje suptilnih pogrešaka, nedosljednosti i propusta
- Sposobnost dosljedne primjene smjernica i standarda kvalitete
- Jasno komuniciranje načina razmišljanja tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i s različitim korisnicima
- Poželjno: iskustvo s protivničkim strojnim učenjem, uključujući skupove podataka za jailbreakove, napade prompt injectiona, napade RLHF-a ili DPO-a ili ekstrakciju modela
- Poželjno: iskustvo iz kibernetičke sigurnosti u penetracijskom testiranju, razvoju exploita ili reverznom inženjerstvu
- Poželjno: iskustvo sa sociotehničkim rizicima poput ispitivanja uznemiravanja i dezinformacija, analize zlouporabe ili testiranja konverzacijske umjetne inteligencije
- Poželjno: kreativno iskustvo ispitivanja u psihologiji, glumi ili pisanju
- Obavezan je rad u svojstvu neovisnog ugovaratelja
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored uz mogućnost samostalnog određivanja radnog vremena
- Tjedne isplate putem Stripea ili Wisea
- Konkurentna satnica
- Prilika za stjecanje iskustva u red teamingu umjetne inteligencije utemeljenom na ljudskim podacima i usmjerenom na sigurnost naprednih modela
- Izravan doprinos otpornijim, sigurnijim i pouzdanijim sustavima umjetne inteligencije
- Neobavezno sudjelovanje u projektima veće osjetljivosti
- Smjernice i resursi za dobrobit za projekte koji uključuju osjetljiv sadržaj
- Na zahtjev su dostupne razumne prilagodbe
- Program preporuka koji nudi do 90 USD za svaku uspješnu preporuku, podložno ograničenjima programa