51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za testiranje sigurnosti AI modela
Ispitujte sigurnost naprednih AI modela adversarijalnim testiranjem. Otkrivajte ranjivosti i pomozite poboljšati usklađenost modela.
Opis
- Izrađujte adversarijalne upite za ispitivanje naprednih AI modela.
- Otkrivajte zaobilaženje zaštita, nesigurno ponašanje, halucinacije i kršenja pravila.
- Ispitujte otpornost modela na dezinformacije, kibernetičku sigurnost, biološku sigurnost, prijevare, politički sadržaj i druga osjetljiva područja.
- Bilježite ranjivosti i pomozite u izradi sigurnosnih mjerila i izvješća o red team testiranju.
- Surađujte s istraživačima umjetne inteligencije kako biste ojačali usklađenost, otpornost i sigurnost modela.
- Pomozite zaštititi i poboljšati sljedeću generaciju naprednih AI modela.
- Sudjelujte u projektima za treniranje i poboljšavanje AI sustava.
Zahtjevi
- Najmanje prvostupnička diploma iz računarstva, kibernetičke sigurnosti, novinarstva, komunikacija, psihologije, biologije, kemije, javnih politika ili srodnog područja
- Najmanje pet godina profesionalnog iskustva u sigurnosti umjetne inteligencije, red team testiranju AI-ja, povjerenju i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, znanostima o životu ili srodnom području
- Izrazite analitičke sposobnosti, vještina osmišljavanja upita i pisanja
- Iskustvo u izradi adversarijalnih upita ili procjeni naprednih AI sustava
- Prednost je iskustvo u red team testiranju AI-ja, RLHF-u, nadziranom finom podešavanju, usklađivanju AI-ja ili povjerenju i sigurnosti
- Prednost je poznavanje testiranja zaobilaženja zaštita, prompt inženjerstva ili metoda adversarijalne procjene
- Prednost je stručnost u barem jednom osjetljivom području, kao što su kibernetička sigurnost, biološka sigurnost, politički sadržaj, dezinformacije ili sigurnost u znanosti
- Kandidat ne smije trebati sponzorstvo vize H-1B ni STEM OPT-a; Mercor ne može podržati kandidate kojima je potreban bilo koji od tih oblika sponzorstva
Pogodnosti
- Potpuno udaljeni rad uz fleksibilan raspored
- Tjedne isplate za obavljene usluge putem Stripea ili Wisea
- Trajanje projekta može se promijeniti ili projekt može završiti ranije, ovisno o potrebama projekta i radnom učinku
- Rad uz vodeće istraživače umjetne inteligencije i sigurnosne timove
- Prilika da utječete na to kako se AI sustavi nose sa složenim sigurnosnim izazovima iz stvarnog svijeta
- Na zahtjev su dostupne razumne prilagodbe
- Nagrade za preporuke do 340 USD za svaku uspješnu preporuku, uz određena ograničenja