51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i odijski) – ugovor
Mercor traži stručnjaka za sigurnost umjetne inteligencije koji izvrsno govori engleski i odijski jezik te će provoditi red-teaming konverzacijskih AI modela za treniranje naprednih modela. Posao uključuje izradu anotacija ranjivosti, napadačkih slučajeva, skupova podataka i ponovljivih izvješća o sigurnosti.
Opis
- Testiranje konverzacijskih AI modela i agenata pomoću jailbreakova, injekcija upita, scenarija zlouporabe, iskorištavanja pristranosti i višekružne manipulacije.
- Dokumentiranje kvarova, kategoriziranje ranjivosti i prepoznavanje sistemskih rizika.
- Primjena uspostavljenih taksonomija, referentnih testova i priručnika kako bi se evaluacije provodile dosljedno.
- Izrada ponovljivih izvješća o sigurnosti, skupova podataka i napadačkih slučajeva.
- Istraživanje izlaza modela u pogledu pristranosti, dezinformacija i štetnog ponašanja.
- Podrška treniranju i poboljšanju naprednih AI sustava za Mercorov AI laboratorij i poslovne korisnike.
Zahtjevi
- Izvrsno poznavanje engleskog i odijskog jezika na razini izvornog govornika.
- Dobar osjećaj za procjenu jezika i sadržaja.
- Sposobnost utvrđivanja jesu li odgovori AI-ja točni, potpuni i primjereni te objašnjavanja razloga.
- Izražena pažnja prema suptilnim pogreškama, nedosljednostima i propustima.
- Sposobnost pouzdanog praćenja smjernica i standarda kvalitete.
- Sposobnost jasnog objašnjavanja načina razmišljanja tehničkoj i netehničkoj publici.
- Fleksibilnost za rad na različitim projektima, formatima zadataka i s različitim korisnicima.
- Spremnost na angažman kao neovisni ugovaratelj.
- Kandidati ne smiju biti kandidati za H-1B ili STEM OPT.
- Iskustvo ili specijalizacija u suparničkom strojnome učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju poželjni su.
Pogodnosti
- Potpuno udaljeni rad.
- Fleksibilno radno vrijeme.
- Mogućnost sudjelovanja u projektima veće osjetljivosti.
- Smjernice i resursi za dobrobit za projekte koji uključuju osjetljiv sadržaj.
- Tjedne isplate putem Stripea ili Wisea.
- Konkurentna naknada.
- Prilika za suradnju s vodećim istraživačima.
- Naknade za preporuke do 90 USD za svaku uspješnu preporuku.