51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije, engleski i nizozemski (ugovorni rad na daljinu)
Mercor traži stručnjake za sigurnost umjetne inteligencije koji govore engleski i nizozemski za testiranje konverzacijskih modela i agenata metodom red teaminga. Posao uključuje stvaranje podataka o ranjivostima, scenarija napada i ponovljivih izvješća o sigurnosti za razvoj napredne umjetne inteligencije.
Opis
- Testirati konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, ubrizgavanja upita, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Stvarati podatke koje generiraju ljudi označavanjem pogrešaka, klasificiranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koristiti taksonomije, referentne testove i priručnike za dosljedno testiranje sigurnosti
- Razvijati ponovljiva izvješća, skupove podataka i slučajeve napada za klijente
- Pronalažiti ranjivosti koje automatizirano testiranje može previdjeti
- Proširivati obuhvat evaluacije kako bi se pomoglo smanjiti neočekivane rizike u produkciji
- Surađivati s vodećim istraživačima na treniranju i poboljšanju naprednih sustava umjetne inteligencije
Zahtjevi
- Izvorna razina znanja engleskog i nizozemskog jezika
- Prethodno iskustvo s red teamingom umjetne inteligencije, ofenzivnom kibernetičkom sigurnošću ili sociotehničkim ispitivanjem
- Sposobnost adversarijalnog testiranja sustava umjetne inteligencije i dovođenja tih sustava u uvjete u kojima dolazi do pogrešaka
- Iskustvo u primjeni okvira ili referentnih testova na strukturirano testiranje
- Sposobnost jasnog komuniciranja rizika tehničkoj i netehničkoj publici
- Sposobnost prilagodbe različitim projektima i klijentima
- Iskustvo s adversarijalnim strojnim učenjem, uključujući skupove podataka za jailbreakove, ubrizgavanje upita, napade RLHF/DPO ili ekstrakciju modela, prednost je
- Iskustvo u kibernetičkoj sigurnosti na području penetracijskog testiranja, razvoja exploita ili reverznog inženjerstva prednost je
- Iskustvo sa sociotehničkim rizicima, uključujući ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije, prednost je
- Kreativno iskustvo u ispitivanju u području psihologije, glume ili pisanja prednost je
- Morate moći raditi kao neovisni ugovorni suradnik
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored uz mogućnost samostalnog određivanja radnog vremena
- Tjedne isplate putem Stripea ili Wisa na temelju pruženih usluga
- Projekti se mogu produljiti, skratiti ili prijevremeno završiti ovisno o poslovnim potrebama i učinku
- Sudjelovanje u projektima s većom razinom osjetljivosti nije obavezno
- Dostupne su smjernice za sadržaj i resursi za dobrobit
- Na zahtjev su dostupne razumne prilagodbe
- Konkurentna satnica
- Mogućnost preporuke uz nagradu do 250 USD za svaku uspješnu preporuku, podložno ograničenjima