51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije (engleski i kanada) – udaljeni ugovorni rad u Sjedinjenim Američkim Državama
Mercor traži stručnjaka za red teaming umjetne inteligencije koji tečno govori engleski i kanada te će testirati najnaprednije modele na ranjivosti. Posao uključuje izradu ponovljivih napadačkih slučajeva, skupova podataka za evaluaciju i izvješća o rizicima za projekte treniranja umjetne inteligencije na ljudskim podacima.
Opis
- Testirajte konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, prompt injection napada, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Izrađujte anotacije ljudskih podataka dokumentiranjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sustavnih rizika
- Koristite utvrđene taksonomije, referentne testove i priručnike za održavanje dosljednih evaluacija
- Pripremajte ponovljiva izvješća za korisnike, skupove podataka i napadačke slučajeve
- Procjenjujte odgovore umjetne inteligencije na osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Istražujte sustave umjetne inteligencije radi slabosti koje automatizirano testiranje možda neće otkriti
- Proširujte obuhvat evaluacije kako biste pomogli ograničiti neočekivane probleme u produkciji
- Podržavajte treniranje i poboljšavanje najnaprednijih modela za Mercorov laboratorij umjetne inteligencije i poslovne korisnike
Zahtjevi
- Izvorna razina znanja engleskog i kanada
- Razborita procjena pri utvrđivanju jesu li odgovori umjetne inteligencije točni, potpuni i primjereni
- Jasne komunikacijske vještine za objašnjavanje zaključivanja tehničkoj i netehničkoj publici
- Pedantna pažnja prema suptilnim pogreškama, nedosljednostima i propustima
- Dosljednost u primjeni taksonomija, referentnih testova, priručnika, smjernica i standarda kvalitete
- Fleksibilnost pri radu na različitim projektima, formatima zadataka i korisnicima
- Sposobnost rada kao neovisni ugovorni suradnik
- Ne smijete zahtijevati sponzorstvo za H-1B ili STEM OPT; ti oblici sponzorstva nisu podržani
- Relevantno iskustvo u napadačkom strojnome učenju, kibernetičkoj sigurnosti, sociotehničkom riziku, testiranju konverzacijske umjetne inteligencije, psihologiji, glumi ili nekonvencionalnom napadačkom pisanju predstavlja prednost
Pogodnosti
- Radite u potpunosti na daljinu uz fleksibilnost samostalnog određivanja rasporeda
- Primajte tjedne isplate putem Stripea ili Wisea za pružene usluge
- Odaberite želite li sudjelovati u projektima koji uključuju sadržaj veće osjetljivosti
- Dobijte jasne smjernice i resurse za dobrobit pri zadacima s osjetljivim sadržajem
- Primajte konkurentnu naknadu
- Steknite praktično iskustvo u red teamingu umjetne inteligencije na temelju ljudskih podataka
- Surađujte s vodećim istraživačima
- Zatražite razumne prilagodbe kada su potrebne
- Ostvarite naknade za preporuke do 90 USD za svaku uspješnu preporuku