51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije – rad na daljinu po ugovoru (Sjedinjene Američke Države)
Mercor traži stručnjaka za red teaming sigurnosti umjetne inteligencije koji će otkrivati ranjivosti naprednih AI modela pomoću adversarijalnog testiranja. Uloga uključuje osmišljavanje promptova i procjenu visokorizičnog ponašanja modela s istraživačima sigurnosti umjetne inteligencije.
Opis
- Izrađivati adversarijalne promptove za izazivanje naprednih AI modela
- Otkrivati jailbreakove, nesigurno ponašanje, halucinacije i kršenja pravila
- Procjenjivati robusnost modela u područjima dezinformacija, kibernetičke sigurnosti, biosigurnosti, prijevara, političkog sadržaja i drugih osjetljivih tema
- Bilježiti ranjivosti i podržavati sigurnosne benchmarke i izvješća red teaminga
- Surađivati s istraživačima umjetne inteligencije na jačanju usklađenosti, robusnosti i sigurnosti modela
- Doprinositi projektima za treniranje i poboljšavanje AI sustava
Zahtjevi
- Preddiplomski ili viši stupanj obrazovanja iz računalnih znanosti, kibernetičke sigurnosti, novinarstva, komunikacija, psihologije, biologije, kemije, javnih politika ili srodnog područja
- Najmanje pet godina profesionalnog iskustva u sigurnosti umjetne inteligencije, red teamingu AI sustava, povjerenju i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, prirodnim znanostima ili srodnom području
- Izražene analitičke sposobnosti, vještine oblikovanja promptova i pisanog komuniciranja
- Iskustvo u izradi adversarijalnih promptova ili procjeni naprednih AI sustava
- Poželjno iskustvo u red teamingu AI sustava, RLHF-u, SFT-u, usklađivanju AI sustava ili povjerenju i sigurnosti
- Poželjno poznavanje testiranja jailbreakova, prompt engineeringa ili metoda adversarijalne evaluacije
- Poželjna stručnost u jednom ili više područja sa sivim zonama, poput kibernetičke sigurnosti, biosigurnosti, političkog sadržaja, dezinformacija ili znanstvene sigurnosti
- Sposobnost rada kao neovisni ugovorni suradnik
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilno radno vrijeme
- Tjedne isplate putem Stripea ili Wisea
- Projekti se mogu produljiti, skratiti ili prijevremeno završiti ovisno o poslovnim potrebama i učinku
- Rad na adversarijalnom testiranju s vodećim istraživačima umjetne inteligencije i sigurnosnim timovima
- Prilika za oblikovanje načina na koji AI sustavi rješavaju složene sigurnosne izazove iz stvarnog svijeta
- Razumne prilagodbe dostupne su na zahtjev
- Naknade za preporuke do 340 USD po uspješnoj preporuci, podložno ograničenjima preporuka