51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije (engleski i pandžapski)
Mercor traži stručnjaka za sigurnost umjetne inteligencije koji govori engleski i pandžapski za red teaming konverzacijskih modela i agenata. Ugovorni angažman usmjeren je na otkrivanje ranjivosti, izradu napadačkih slučajeva i pripremu ponovljivih sigurnosnih izvješća za korisnike koji se bave istraživanjem umjetne inteligencije.
Opis
- Testiranje konverzacijskih modela i agenata umjetne inteligencije pomoću jailbreakova, prompt injectiona, scenarija zloupotrebe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Procjenjivanje izlaza modela na osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Dokumentiranje kvarova, kategoriziranje ranjivosti i prepoznavanje sistemskih rizika
- Korištenje utvrđenih taksonomija, referentnih testova i priručnika za održavanje dosljednih procjena
- Izrada ponovljivih izvješća, skupova podataka i napadačkih slučajeva za korisnike
- Istraživanje slabosti sustava umjetne inteligencije koje automatizirano testiranje može previdjeti
- Proširivanje obuhvata procjene kako bi se ograničili neočekivani problemi u produkciji
- Poboljšavanje korisničkih sustava umjetne inteligencije red teamingom koji provode ljudi i koji se temelji na podacima
Zahtjevi
- Izvorno ili tečno znanje engleskog i pandžapskog jezika
- Razvijena sposobnost prosuđivanja pri procjeni jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja procjene
- Temeljita pažnja prema suptilnim pogreškama, nedosljednostima i propustima
- Dosljedno pridržavanje smjernica za testiranje i standarda kvalitete
- Sposobnost jasnog objašnjavanja zaključaka tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i s različitim korisnicima
- Dostupnost za angažman kao neovisni ugovorni suradnik
- Ne smije biti potrebna podrška za H-1B ili STEM OPT
- Poželjno iskustvo može uključivati adversarijalno strojno učenje, skupove podataka za jailbreakove, prompt injection, napade RLHF/DPO, ekstrakciju modela, penetracijsko testiranje, razvoj exploita, reverzno inženjerstvo, ispitivanje uznemiravanja ili dezinformacija, analizu zloupotrebe, testiranje konverzacijske umjetne inteligencije, psihologiju, glumu ili pisanje
Pogodnosti
- Rad na daljinu s bilo kojeg mjesta dopuštenog ovom ulogom
- Samostalno određivanje radnog rasporeda
- Tjedne isplate za pružene usluge putem Stripea ili Wisoa
- Projekti se mogu produljiti, smanjiti ili ranije završiti ovisno o poslovnim potrebama i učinku
- Pristup resursima za dobrobit i jasnim smjernicama za projekte veće osjetljivosti
- Stjecanje iskustva u red teamingu umjetne inteligencije koji se temelji na ljudskim podacima
- Pomaganje u tome da sustavi umjetne inteligencije budu robusniji, sigurniji i pouzdaniji
- Konkurentna naknada
- Suradnja s vodećim istraživačima umjetne inteligencije