51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red teaming sigurnosti umjetne inteligencije – engleski i finski, rad na daljinu iz Sjedinjenih Država
Provođenje adversarijalnog testiranja konverzacijskih modela i agenata umjetne inteligencije za Mercorove projekte umjetne inteligencije koji koriste ljudske podatke. Izrada ponovljivih podataka o ranjivostima radi jačanja naprednih sustava umjetne inteligencije.
Opis
- Testiranje konverzacijskih modela i agenata umjetne inteligencije pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i višekružne manipulacije
- Bilježenje neuspjeha, kategoriziranje ranjivosti i prepoznavanje sistemskih rizika
- Primjena etabliranih taksonomija, mjerila i priručnika za dosljedne procjene
- Izrada ponovljivih izvješća, skupova podataka i slučajeva napada za korisnike
- Prepoznavanje ranjivosti koje automatizirano testiranje može previdjeti
- Proširivanje obuhvata procjena i pomoć u smanjenju neočekivanih problema u produkciji
- Suradnja s vodećim istraživačima na projektima koji treniraju i poboljšavaju sustave umjetne inteligencije
Zahtjevi
- Tečno ili materinsko znanje engleskog i finskog jezika
- Prethodno iskustvo u red teamingu na području adversarijalnog rada s umjetnom inteligencijom, kibernetičke sigurnosti ili sociotehničkog ispitivanja
- Sposobnost adversarijalnog testiranja sustava umjetne inteligencije i dovođenja do točaka neuspjeha
- Iskustvo u primjeni okvira ili mjerila za strukturirano testiranje
- Sposobnost jasnog komuniciranja rizika tehničkoj i netehničkoj publici
- Prilagodljivost različitim projektima i zahtjevima korisnika
- Dostupnost za angažman kao neovisni ugovaratelj
- Ne smijete biti kandidat za H-1B ili STEM OPT
- Prednost je iskustvo u adversarijalnom strojnom učenju, uključujući skupove podataka za jailbreakove, prompt injection, RLHF/DPO napade ili ekstrakciju modela
- Prednost je iskustvo u kibernetičkoj sigurnosti, uključujući penetracijsko testiranje, razvoj exploita ili obrnuti inženjering
- Prednost je iskustvo sa sociotehničkim rizicima u ispitivanju uznemiravanja ili dezinformacija, analizi zlouporabe ili testiranju konverzacijske umjetne inteligencije
- Prednost je iskustvo iz psihologije, glume ili pisanja koje podupire nekonvencionalno adversarijalno razmišljanje
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored
- Tjedne isplate putem Stripea ili Wisea
- Resursi za dobrobit i jasne smjernice za projekte veće osjetljivosti
- Mogućnost stjecanja iskustva u red teamingu umjetne inteligencije temeljenom na ljudskim podacima
- Izravna prilika za pomoć u tome da sustavi umjetne inteligencije budu robusniji, sigurniji i pouzdaniji
- Konkurentna naknada
- Bonus za preporuku u iznosu do 250 USD za svaku uspješnu preporuku