51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije uz znanje engleskog i finskog
Ispitujte napredne sustave umjetne inteligencije kako biste otkrili ranjivosti pomoću jailbreakova, prompt injectiona i scenarija zlouporabe. Pripremajte strukturirane nalaze i ponovljive primjere napada za procjenu sigurnosti umjetne inteligencije.
Opis
- Testirajte konverzacijske modele umjetne inteligencije i agente pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više koraka razgovora.
- Izrađujte podatke s ljudskim oznakama dokumentiranjem neuspjeha, klasifikacijom ranjivosti i prepoznavanjem sistemskih rizika.
- Primjenjujte taksonomije, referentne testove i priručnike kako bi testiranje bilo dosljedno.
- Isporučujte klijentima ponovljive izvještaje, skupove podataka i primjere napada.
- Procjenjujte izlaze umjetne inteligencije o osjetljivim temama, uključujući pristranost, dezinformacije i štetno ponašanje.
- Pronalazite ranjivosti koje automatizirano testiranje možda neće otkriti.
- Proširujte obuhvat procjene kako biste pomogli spriječiti neočekivane probleme u produkciji.
- Sudjelujte u projektima za treniranje i poboljšavanje naprednih sustava umjetne inteligencije.
Zahtjevi
- Tečno ili izvorno poznavanje engleskog i finskog jezika.
- Prethodno iskustvo u red teamingu u području adversarijalne umjetne inteligencije, kibernetičke sigurnosti ili sociotehničkog ispitivanja.
- Sposobnost adversarijalnog testiranja sustava umjetne inteligencije i provjeravanja njihovih krajnjih mogućnosti.
- Iskustvo s okvirima ili referentnim testovima za strukturirano testiranje.
- Sposobnost jasnog objašnjavanja rizika tehničkoj i netehničkoj publici.
- Sposobnost prilagodbe različitim projektima i klijentima.
- Prednost su specijalizacije za adversarijalno strojno učenje, kibernetičku sigurnost, sociotehnički rizik ili kreativno ispitivanje.
- Angažman kao neovisni ugovorni suradnik.
- Ne smije biti potrebno sponzorstvo za vizu H-1B ni STEM OPT.
Pogodnosti
- Potpuno udaljeni rad.
- Fleksibilan raspored uz mogućnost samostalnog određivanja radnog vremena.
- Tjedne isplate putem Stripea ili Wisea.
- Projekti se mogu produljiti, skratiti ili ranije završiti ovisno o potrebama i učinku.
- Resursi za dobrobit i jasne smjernice za projekte koji obuhvaćaju osjetljivije teme.
- Razumne prilagodbe dostupne su na zahtjev.
- Prilika za stjecanje iskustva u red teamingu umjetne inteligencije utemeljenom na ljudskim podacima.
- Suradnja s vodećim istraživačima.
- Isplate za preporuke do 250 USD za svaku uspješnu preporuku; primjenjuju se ograničenja.