51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije
Mercor traži stručnjaka za red teaming sigurnosti umjetne inteligencije koji će ispitivati slabosti naprednih modela u područjima visokog rizika. Ovaj posao pomaže AI laboratorijima u treniranju i poboljšanju naprednih sustava.
Opis
- Izrađivati adversarijalne upite za testiranje naprednih AI modela.
- Otkrivati zaobilaženje zaštitnih mjera, nesigurno ponašanje, halucinacije i propuste u primjeni pravila.
- Procjenjivati otpornost modela na dezinformacije, prijetnje kibernetičkoj sigurnosti i biološkoj sigurnosti, prijevare, politički sadržaj i druga osjetljiva područja.
- Bilježiti ranjivosti te pomagati u izradi sigurnosnih mjerila i izvješća o red team testiranju.
- Surađivati s AI istraživačima na jačanju usklađenosti modela, otpornosti i sigurnosti.
- Sudjelovati u projektima treniranja i poboljšanja AI sustava.
Zahtjevi
- Preddiplomski studij ili viša razina obrazovanja iz računarstva, kibernetičke sigurnosti, novinarstva, komunikologije, psihologije, biologije, kemije, javnih politika ili srodnog područja.
- Najmanje pet godina profesionalnog iskustva u sigurnosti umjetne inteligencije, red teamingu AI sustava, području povjerenja i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, biološkim znanostima ili srodnom području.
- Izražene analitičke sposobnosti, vještine osmišljavanja promptova i pisanog izražavanja.
- Iskustvo u izradi adversarijalnih upita ili procjeni naprednih AI sustava.
- Morate prebivati u jednoj od navedenih prihvatljivih zemalja: Albanija, Austrija, Belgija, Bugarska, Bosna i Hercegovina, Švicarska, Češka, Njemačka, Danska, Španjolska, Estonija, Finska, Francuska, Ujedinjeno Kraljevstvo, Grčka, Hrvatska, Mađarska, Irska, Island, Italija, Lihtenštajn, Litva, Luksemburg, Latvija, Monako, Moldavija, Sjeverna Makedonija, Malta, Nizozemska, Norveška, Poljska, Portugal, Rumunjska, San Marino, Srbija, Slovačka, Slovenija, Švedska, Sjedinjene Američke Države ili Kosovo.
- Trenutačno nije moguće pružiti podršku kandidatima s vizom H-1B ni kandidatima u programu STEM OPT.
Pogodnosti
- Potpuno udaljeni rad uz fleksibilan raspored.
- Tjedne isplate za obavljene usluge putem Stripea ili Wisea.
- Trajanje projekta može se produljiti, skratiti ili projekt može ranije završiti, ovisno o potrebama projekta i radnom učinku.
- Konkurentna naknada.
- Prilika za suradnju s vodećim AI istraživačima i sigurnosnim timovima.
- Razumne prilagodbe dostupne su na zahtjev.
- Program preporuka nudi do 340 USD za svaku uspješnu preporuku, uz određena ograničenja.