51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
AI sigurnosni red teamer – rad na daljinu u SAD-u
Mercor traži sigurnosnog red teamera za AI koji će raditi na daljinu, testirati najsuvremenije AI modele i otkrivati ranjivosti u područjima visokog rizika. Ugovorna uloga podržava AI laboratorije koji razvijaju i poboljšavaju napredne sustave.
Opis
- Izrađivati adversarijalne upite za testiranje najsuvremenijih AI modela
- Otkrivati jailbreakove, nesigurno ponašanje, halucinacije i kršenja pravila
- Procjenjivati otpornost modela na dezinformacije, kibernetičke prijetnje, rizike biološke sigurnosti, prijevare, politički sadržaj i druge osjetljive teme
- Bilježiti otkrivene ranjivosti i pomagati u izradi sigurnosnih referentnih testova i red-team izvješća
- Surađivati s AI istraživačima na jačanju usklađenosti, otpornosti i sigurnosti modela
- Doprinositi projektima koji treniraju i poboljšavaju AI sustave
Zahtjevi
- Preddiplomski ili viši stupanj obrazovanja iz računalnih znanosti, kibernetičke sigurnosti, novinarstva, komunikologije, psihologije, biologije, kemije, javnih politika ili srodnog područja
- Najmanje pet godina profesionalnog iskustva u sigurnosti AI-ja, AI red teamingu, povjerenju i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, biološkim znanostima ili srodnom području
- Izvrsno analitičko prosuđivanje, sposobnost osmišljavanja upita i vještine pisanog izražavanja
- Iskustvo u izradi adversarijalnih upita ili procjeni najsuvremenijih AI sustava
- Iskustvo u AI red teamingu, RLHF-u, SFT-u, usklađivanju AI-ja ili povjerenju i sigurnosti je poželjno
- Poznavanje testiranja jailbreakova, prompt engineeringa ili metoda adversarijalne evaluacije je poželjno
- Stručnost u barem jednom području sa sivim zonama, poput kibernetičke sigurnosti, biološke sigurnosti, političkog sadržaja, dezinformacija ili znanstvene sigurnosti, je poželjna
- Sposobnost rada kao neovisni ugovorni suradnik
- Kandidatima s vizama H-1B i STEM OPT nije pružena podrška
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored kojim samostalno upravljate
- Tjedne isplate putem Stripea ili Wisea
- Projekti se mogu produljiti, skratiti ili prijevremeno završiti ovisno o poslovnim potrebama i radnom učinku
- Konkurentna naknada
- Suradnja s vodećim AI istraživačima i sigurnosnim timovima
- Razumne prilagodbe dostupne su na zahtjev
- Naknade za preporuke u iznosu do 340 USD po uspješnoj preporuci, uz primjenjiva ograničenja