51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i tamilski)
Mercor traži stručnjaka za sigurnost umjetne inteligencije koji govori engleski i tamilski za testiranje konverzacijskih modela i agenata metodama red teaminga. Ugovorni angažman usmjeren je na prepoznavanje ranjivosti, procjenu osjetljivih izlaza i izradu ponovljivih sigurnosnih podataka za treniranje napredne umjetne inteligencije.
Opis
- Testirati konverzacijske modele i agente umjetne inteligencije metodama red teaminga, uključujući jailbreakove, prompt injection, scenarije zlouporabe, iskorištavanje pristranosti i manipulaciju kroz više poruka
- Označavati pogreške, kategorizirati ranjivosti i prepoznavati sistemske rizike
- Dosljedno primjenjivati utvrđene taksonomije, referentne testove i postupke testiranja
- Izrađivati ponovljiva izvješća, skupove podataka i slučajeve napada
- Procjenjivati izlaze umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Proširivati obuhvat procjene pronalaženjem slabosti koje automatizirano testiranje može previdjeti
- Surađivati s projektnim timovima koji razvijaju i poboljšavaju napredne sustave umjetne inteligencije
Zahtjevi
- Izvorno ili tečno znanje engleskog i tamilskog jezika
- Razborito prosuđivanje pri procjeni jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni
- Izražena pažnja prema suptilnim pogreškama, nedosljednostima i propustima
- Dosljedno pridržavanje smjernica i standarda kvalitete
- Sposobnost jasnog objašnjavanja zaključivanja tehničkoj i netehničkoj publici
- Prilagodljivost različitim projektima, formatima zadataka i korisnicima
- Dostupnost za rad kao neovisni ugovorni suradnik
- Ne smije zahtijevati sponzorstvo za vizu H-1B ili STEM OPT
- Poželjno iskustvo u napadačkom strojnom učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored
- Tjedne isplate putem Stripea ili Wisea
- Konkurentna naknada
- Stjecanje iskustva u red teamingu umjetne inteligencije koji se temelji na podacima ljudi
- Doprinos tome da sustavi umjetne inteligencije budu otporniji, sigurniji i pouzdaniji
- Suradnja s vodećim istraživačima
- Na zahtjev su dostupne razumne prilagodbe
- Naknade za preporuke do 90 USD za svaku uspješnu preporuku