51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i gudžaratski (rad na daljinu po ugovoru)
Testirajte najsuvremenije modele i agente umjetne inteligencije na sigurnosne ranjivosti kroz adversarne razgovore, uključujući jailbreakove, ubrizgavanje upita, zlouporabu, pristranost i manipulaciju. Izrađujte anotirane skupove podataka, scenarije napada i ponovljive izvještaje o sigurnosti na engleskom i gudžaratskom jeziku.
Opis
- Adversarno testirajte konverzacijske modele i agente umjetne inteligencije na jailbreakove, ubrizgavanje upita, zlouporabu, iskorištavanje pristranosti i višekratnu manipulaciju
- Izrađujte podatke koje generiraju ljudi anotiranjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sustavnih rizika
- Koristite utvrđene taksonomije, referentne testove i radne priručnike kako biste održali dosljedna vrednovanja
- Razvijajte ponovljive izvještaje, skupove podataka i scenarije napada
- Procjenjujte izlaze umjetne inteligencije koji uključuju osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Prepoznajte slabosti koje automatizirane metode vrednovanja ne uspijevaju otkriti
- Proširite obuhvat vrednovanja kako biste pomogli ograničiti neočekivane probleme u produkciji
- Unaprijedite korisničke sustave umjetne inteligencije strukturiranim adversarnim testiranjem
Zahtjevi
- Izvorna razina znanja engleskog i gudžaratskog jezika
- Razborita procjena pri vrednovanju jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja procjene
- Pažljivo uočavanje suptilnih pogrešaka, nedosljednosti i izostavljenih elemenata
- Dosljedna uporaba taksonomija, referentnih testova, radnih priručnika, smjernica i standarda kvalitete
- Sposobnost jasnog priopćavanja obrazloženja tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i za različite korisnike
- Prednost imaju iskustvo ili obrazovanje iz adversarnog strojnog učenja, kibernetičke sigurnosti, sociotehničkog rizika ili kreativnog ispitivanja umjetne inteligencije
- Potrebno je raditi kao neovisni ugovorni suradnik
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljena pozicija
- Fleksibilno radno vrijeme uz mogućnost odabira vlastitih sati rada
- Tjedne isplate putem Stripea ili Wisoa
- Projekti se mogu produljiti, skratiti ili ranije završiti ovisno o poslovnim potrebama i učinku
- Neobavezno sudjelovanje u projektima koji uključuju sadržaj veće osjetljivosti
- Jasne smjernice i resursi za dobrobit pri zadacima s osjetljivim sadržajem
- Na zahtjev su dostupne razumne prilagodbe
- Mogućnost stjecanja iskustva u red teamingu umjetne inteligencije koji se temelji na podacima koje generiraju ljudi
- Rad uz vodeće istraživače
- Naknade za preporuke do 90 USD za svaku uspješnu preporuku, podložno primjenjivim ograničenjima