51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije (engleski i teluški) – rad na daljinu po ugovoru
Provode se red-team procjene konverzacijskih modela i agenata umjetne inteligencije za Mercor, s naglaskom na sigurnost na engleskom i teluškom jeziku. Izrađujte podatke o ranjivostima, napadačke scenarije i ponovljive izvještaje za podršku sigurnijem razvoju umjetne inteligencije.
Opis
- Testirajte konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, ubrizgavanja upita, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Bilježite neuspjehe, kategorizirajte ranjivosti i prepoznajte sistemske rizike
- Koristite taksonomije, referentne testove i priručnike za dosljedno provođenje procjena
- Izrađujte ponovljive izvještaje, skupove podataka i napadačke scenarije za korisnike
- Procjenjujte izlaze umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Doprinosite projektima koji treniraju i poboljšavaju sustave umjetne inteligencije
- Prepoznajte ranjivosti koje automatizirano testiranje ne otkriva
- Proširite obuhvat procjena kako biste pomogli smanjiti neočekivane probleme u produkciji
Zahtjevi
- Izvorno ili tečno znanje engleskog i teluškog jezika
- Razboritost pri procjeni jesu li odgovori umjetne inteligencije točni, potpuni i primjereni
- Sposobnost jasnog objašnjavanja načina razmišljanja tehničkoj i netehničkoj publici
- Iznimna pažnja prema suptilnim pogreškama, nedosljednostima i izostavljenim informacijama
- Dosljedno pridržavanje smjernica i standarda kvalitete
- Fleksibilnost u radu na različitim projektima, formatima zadataka i za različite korisnike
- Spremnost na rad kao neovisni ugovorni suradnik
- Ne smijete biti kandidat za H-1B ni STEM OPT; relevantne specijalizacije mogu uključivati adversarijalno strojno učenje, skupove podataka za jailbreakove, ubrizgavanje upita, napade RLHF/DPO, ekstrakciju modela, penetracijsko testiranje, razvoj exploita, reverzno inženjerstvo, ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe, testiranje konverzacijske umjetne inteligencije, psihologiju, glumu ili pisanje.
- benefiti
Pogodnosti
- Radite u potpunosti na daljinu prema rasporedu koji sami odredite
- Primajte tjedne uplate putem Stripea ili Wisea za pružene usluge
- Steknite iskustvo u red-teamingu umjetne inteligencije temeljenom na ljudskim podacima i usmjerenom na sigurnost naprednih sustava
- Pomozite da sustavi umjetne inteligencije budu otporniji, sigurniji i pouzdaniji
- Odaberite želite li sudjelovati u projektima veće osjetljivosti
- Dobijte jasne smjernice i resurse za dobrobit pri radu na projektima veće osjetljivosti
- Zatražite razumne prilagodbe
- Zaradite do 90 USD za svaku uspješnu preporuku, bez navedenog ograničenja broja preporuka