51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i finski (rad na daljinu)
Mercor traži stručnjake za sigurnost umjetne inteligencije koji govore engleski i finski za provođenje red team testiranja konverzacijskih modela i agenata umjetne inteligencije. Posao uključuje izradu ponovljivih podataka o ranjivostima i slučajeva napada za projekte obuke napredne umjetne inteligencije.
Opis
- Prov&oditi adversarijalno testiranje konverzacijskih modela i agenata umjetne inteligencije pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Dokumentirati kvarove, kategorizirati ranjivosti i prepoznati sistemske rizike
- Primjenjivati utvrđene taksonomije, referentne testove i priručnike radi dosljednog ocjenjivanja
- Izrađivati ponovljiva izvješća, skupove podataka i slučajeve napada
- Istraživati izlaze modela koji uključuju pristranost, dezinformacije i štetno ponašanje
- Proširivati obuhvat evaluacije kako bi se prepoznale ranjivosti koje automatizirano testiranje može previdjeti
- Surađivati s projektnim timovima koji podržavaju obuku i poboljšanje naprednih sustava umjetne inteligencije
Zahtjevi
- Tečno ili izvorno znanje engleskog i finskog jezika
- Prethodno iskustvo u red team testiranju umjetne inteligencije, kibernetičkoj sigurnosti ili sociotehničkom ispitivanju
- Dokazana sposobnost adversarijalnog testiranja sustava umjetne inteligencije
- Sposobnost rada s okvirima, taksonomijama, referentnim testovima i priručnicima
- Sposobnost jasnog komuniciranja rizika tehničkoj i netehničkoj publici
- Prilagodljivost različitim projektima i korisnicima
- Obavezno je raditi kao neovisni ugovorni suradnik
- Mogućnost rada bez povjerljivih ili vlasničkih informacija koje pripadaju drugom poslodavcu, klijentu ili instituciji
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljena ugovorna pozicija
- Fleksibilan raspored uz kontrolu radnog vremena
- Mogućnost sudjelovanja u projektima s višom razinom osjetljivosti
- Jasne smjernice i resursi za dobrobit
- Tjedne isplate putem Stripea ili Wisa
- Konkurentna naknada
- Mogućnost preporuke uz naknadu do 250 USD za svaku uspješnu preporuku
- Razumne prilagodbe dostupne su na zahtjev