51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije
Mercor traži stručnjaka za red teaming sigurnosti umjetne inteligencije koji će testirati napredne sustave umjetne inteligencije adversarijalnim upitima. Posao uključuje dokumentiranje rizika i suradnju s istraživačima na jačanju sigurnosti i usklađenosti modela.
Opis
- Izrađivati adversarijalne upite za testiranje naprednih modela umjetne inteligencije
- Otkrivati jailbreakove, nesigurne izlaze, halucinacije i nedostatke u pravilima
- Procjenjivati otpornost modela u osjetljivim područjima kao što su dezinformacije, kibernetička sigurnost, biološka sigurnost, prijevare i politički sadržaj
- Bilježiti ranjivosti i pomagati u izradi sigurnosnih referentnih testova i izvješća o red teamingu
- Surađivati s istraživačima umjetne inteligencije na jačanju usklađenosti, otpornosti i sigurnosti modela
- Doprinositi projektima za treniranje i poboljšanje sustava umjetne inteligencije
Zahtjevi
- Završen preddiplomski studij ili viša razina obrazovanja iz računarstva, kibernetičke sigurnosti, novinarstva, komunikacija, psihologije, biologije, kemije, javnih politika ili srodnog područja
- Najmanje pet godina profesionalnog iskustva u sigurnosti umjetne inteligencije, red teamingu umjetne inteligencije, povjerenju i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, prirodnim znanostima ili srodnom području
- Izražene analitičke sposobnosti, vještine osmišljavanja upita i pisanja
- Iskustvo u izradi adversarijalnih upita ili procjeni naprednih sustava umjetne inteligencije
- Prednost: iskustvo u red teamingu umjetne inteligencije, RLHF-u, nadziranom finom podešavanju, usklađivanju umjetne inteligencije ili povjerenju i sigurnosti
- Prednost: poznavanje testiranja jailbreakova, prompt inženjeringa ili metoda adversarijalne evaluacije
- Prednost: stručnost u složenim područjima kao što su kibernetička sigurnost, biološka sigurnost, politički sadržaj, dezinformacije ili sigurnost u znanosti
- Mogućnost rada kao neovisni ugovorni suradnik
- Ne pruža se podrška kandidatima s vizama H-1B i STEM OPT
Pogodnosti
- Potpuno udaljeni rad uz fleksibilan raspored
- Tjedne isplate za pružene usluge putem Stripea ili Wisea
- Trajanje projekta može se produljiti, skratiti ili ranije završiti ovisno o potrebama i učinku
- Konkurentna naknada
- Prilika za suradnju s vodećim istraživačima i sigurnosnim timovima
- Na zahtjev su dostupne razumne prilagodbe
- Poticaj za preporuku do 340 USD za svaku uspješnu preporuku, uz ograničenja