51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i marathski (ugovorni rad na daljinu)
Mercor traži stručnjaka za sigurnost umjetne inteligencije koji tečno govori engleski i marathski te provodi red teaming konverzacijskih sustava umjetne inteligencije. Ugovorna uloga usmjerena je na adversarijalno testiranje, analizu ranjivosti i jasno izvještavanje za projekte s ljudskim podacima i frontier AI projekte.
Opis
- Testirati konverzacijske modele i agente umjetne inteligencije na jailbreakove, ubrizgavanje prompta, scenarije zlouporabe, iskorištavanje pristranosti i manipulaciju kroz više poruka
- Izrađivati podatkovne resurse s ljudskim doprinosom označavanjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koristiti uspostavljene taksonomije, referentne testove i priručnike za dosljedna vrednovanja
- Isporučivati ponovljive primjere napada, skupove podataka i izvještaje za korisnike
- Procjenjivati odgovore umjetne inteligencije na osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Pronalažiti slabosti koje automatizirane metode vrednovanja mogu previdjeti
- Proširivati obuhvat testiranja kako bi se spriječili neočekivani problemi u produkciji
- Podržavati korisnike u poboljšanju sigurnosti, robusnosti i pouzdanosti njihovih sustava umjetne inteligencije
- Surađivati s vodećim istraživačima na inicijativama za treniranje i unapređivanje frontier AI modela
Zahtjevi
- Izvorno ili tečno znanje engleskog i marathskog jezika
- Razborito prosuđivanje pri procjeni jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i prikladni, uz jasna objašnjenja
- Pažljivo uočavanje nijansiranih pogrešaka, nedosljednosti i izostavljenih informacija
- Pouzdano pridržavanje smjernica za testiranje i zahtjeva kvalitete
- Jasno objašnjavanje obrazloženja tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, zadacima i s različitim korisnicima
- Sposobnost rada kao samostalni ugovorni suradnik
- Ne smije zahtijevati sponzorstvo za H-1B ili STEM OPT
- Poželjno: iskustvo s adversarijalnim strojnim učenjem, uključujući skupove podataka za jailbreakove, ubrizgavanje prompta, RLHF/DPO napade ili ekstrakciju modela
- Poželjno: iskustvo u kibernetičkoj sigurnosti s penetracijskim testiranjem, razvojem exploita ili reverznim inženjerstvom
- Poželjno: iskustvo sa sociotehničkim rizicima, uključujući ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije
- Poželjno: iskustvo iz psihologije, glume ili pisanja koje podržava nekonvencionalno adversarijalno razmišljanje
Pogodnosti
- Ugovorni rad u potpunosti na daljinu
- Fleksibilan raspored s mogućnošću samostalnog određivanja radnog vremena
- Tjedne isplate putem Stripea ili Wisea
- Trajanje projekta može se promijeniti ili projekt može ranije završiti ovisno o poslovnim potrebama i učinku
- Neobavezno sudjelovanje u projektima koji uključuju sadržaj veće osjetljivosti
- Jasne smjernice i resursi za dobrobit pri zadacima s osjetljivim sadržajem
- Razumne prilagodbe dostupne su na zahtjev
- Naknade za preporuke do 90 USD za svaku uspješnu preporuku