51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Red teamer za sigurnost umjetne inteligencije – ugovorni rad na daljinu u Sjedinjenim Američkim Državama
Mercor traži ugovornog stručnjaka za red teaming sigurnosti umjetne inteligencije koji će izazivati najnaprednije modele umjetne inteligencije i otkrivati njihove ranjivosti. Uloga je usmjerena na područja visokog rizika i podržava razvoj sigurnijih i pouzdanijih sustava umjetne inteligencije.
Opis
- Izrađivati adversarijalne upite koji rigorozno izazivaju najnaprednije modele umjetne inteligencije
- Otkrivati jailbreakove, nesigurno ponašanje, halucinacije i nepridržavanje sigurnosnih pravila
- Procjenjivati otpornost modela na dezinformacije, kibernetičku sigurnost, biosigurnost, prijevare, politički sadržaj i druga osjetljiva područja
- Bilježiti otkrivene slabosti i podržavati sigurnosne referentne testove i izvješća red teaminga
- Surađivati s istraživačima umjetne inteligencije na unaprjeđenju usklađenosti, robusnosti i sigurnosti modela
- Pomagati u zaštiti i unaprjeđenju novih najnaprednijih sustava umjetne inteligencije
- Oblikovati način na koji modeli umjetne inteligencije postupaju u složenim sigurnosnim scenarijima u stvarnom svijetu
Zahtjevi
- Diploma prvostupnika ili viša razina obrazovanja iz računalnih znanosti, kibernetičke sigurnosti, novinarstva, komunikacija, psihologije, biologije, kemije, javnih politika ili srodnog područja
- Najmanje pet godina profesionalnog iskustva u sigurnosti umjetne inteligencije, red teamingu umjetne inteligencije, povjerenju i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, biološkim znanostima ili srodnom području
- Izvrsna analitička prosudba, sposobnost razvoja upita i vještine pisane komunikacije
- Praktično iskustvo u izradi adversarijalnih upita ili procjeni najnaprednijih sustava umjetne inteligencije
- Poželjno: iskustvo u red teamingu umjetne inteligencije, RLHF-u, SFT-u, usklađivanju umjetne inteligencije ili povjerenju i sigurnosti
- Poželjno: poznavanje procjena jailbreakova, prompt engineeringa ili metoda adversarijalne evaluacije
- Poželjno: stručnost u nijansiranim područjima kao što su kibernetička sigurnost, biosigurnost, politički sadržaj, dezinformacije ili znanstvena sigurnost
- Mogućnost rada kao neovisni ugovorni suradnik
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljeni rad
- Samostalno određivanje radnog vremena i izvršavanje zadataka prema fleksibilnom rasporedu
- Tjedne isplate putem Stripea ili Wisea
- Trajanje projekta može se promijeniti ili projekt može ranije završiti ovisno o poslovnim potrebama i učinku
- Konkurentna naknada
- Rad uz vodeće istraživače umjetne inteligencije i sigurnosne timove
- Na zahtjev su dostupne razumne prilagodbe
- Program preporuka koji nudi do 340 USD za svaku uspješnu preporuku, podložno ograničenjima preporuka