51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i tamilski)
Mercor traži ugovornog stručnjaka za sigurnost umjetne inteligencije koji tečno govori engleski i tamilski te će provoditi adversarijalno testiranje konverzacijskih modela i agenata. Posao je usmjeren na testiranje jailbreakova, analizu ranjivosti, pregled štetnog ponašanja i strukturirano prikupljanje ljudskih podataka za razvoj napredne umjetne inteligencije.
Opis
- Ispitivati konverzacijske modele i agente pomoću jailbreakova, prompt injection napada, scenarija zlouporabe, iskorištavanja pristranosti i višekratne manipulacije
- Izrađivati skupove podataka koje generiraju ljudi označavanjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Upotrebljavati utvrđene taksonomije, referentne testove i priručnike za dosljedno ocjenjivanje
- Izrađivati reproducibilna izvješća, skupove podataka i slučajeve napada
- Procjenjivati izlaze umjetne inteligencije koji uključuju osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje
- Proširiti obuhvat procjene kako bi se prepoznale slabosti koje automatizirano testiranje može previdjeti
- Podržavati Mercorov laboratorij za umjetnu inteligenciju i poslovne korisnike u obuci i poboljšanju naprednih sustava umjetne inteligencije
Zahtjevi
- Izvorno ili tečno znanje engleskog i tamilskog jezika
- Dobar rasuđivački sud pri procjeni jezika i sadržaja, uključujući procjenu jesu li odgovori umjetne inteligencije točni, potpuni i primjereni
- Sposobnost otkrivanja suptilnih pogrešaka, nedosljednosti i izostanaka
- Dosljedno pridržavanje smjernica, taksonomija, referentnih testova, priručnika i standarda kvalitete
- Jasno obrazlaganje zaključaka tehničkoj i netehničkoj publici
- Fleksibilnost pri radu na različitim projektima, formatima zadataka i s različitim korisnicima
- Sposobnost rada kao neovisni ugovaratelj
- Kandidatima s vizama H1-B i STEM OPT trenutačno se ne može pružiti podrška
- Iskustvo u adversarijalnom strojnom učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju je prednost
Pogodnosti
- Potpuno udaljen rad
- Odabir fleksibilnog rasporeda i rada u terminima koji vam odgovaraju
- Tjedne isplate putem Stripea ili Wisea
- Konkurentna naknada
- Pristup resursima za dobrobit i jasnim smjernicama za projekte veće osjetljivosti
- Trajanje projekta može se promijeniti ili projekt može završiti ranije ovisno o poslovnim potrebama i učinku
- Primanje naknade za preporuku do 90 USD za svaku uspješnu preporuku