51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije (engleski i gudžaratski) – rad na daljinu po ugovoru
Provode se red-team procjene konverzacijskih modela i agenata umjetne inteligencije za Mercor, partnera AI laboratorija usmjerenog na treniranje naprednih sustava. Izrađujte podatke o ranjivostima, scenarije napada i ponovljive izvještaje o sigurnosti.
Opis
- Testirajte konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, prompt-injekcija, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više krugova razgovora
- Izrađujte podatke s ljudskim oznakama anotiranjem pogrešaka, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Upotrebljavajte utvrđene taksonomije, referentne testove i priručnike kako biste osigurali dosljedne procjene
- Izrađujte ponovljive izvještaje, skupove podataka i scenarije napada
- Procjenjujte odgovore umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Prepoznajte slabosti koje automatizirano testiranje može previdjeti
- Proširite obuhvat procjena kako biste pomogli ograničiti neočekivane probleme u produkciji
- Unaprijedite korisničke AI sustave jasnim i ponovljivim rezultatima procjene
Zahtjevi
- Izvorno ili tečno znanje engleskog i gudžaratskog jezika
- Razborito prosuđivanje pri procjeni jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja procjene
- Pažljivo uočavanje suptilnih pogrešaka, nedosljednosti i propusta
- Dosljedno pridržavanje smjernica i zahtjeva kvalitete
- Sposobnost jasnog objašnjavanja zaključaka tehničkoj i netehničkoj publici
- Fleksibilnost pri radu na različitim projektima, formatima zadataka i za različite korisnike
- Poželjno iskustvo u adversarijalnom strojnom učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju
- Dostupnost za rad kao neovisni ugovorni suradnik
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Rad u potpunosti na daljinu
- Sami birate svoj raspored rada
- Tjedne isplate putem Stripea ili Wisea
- Konkurentna satnica
- Mogućnost sudjelovanja u projektima koji uključuju sadržaj veće osjetljivosti
- Pristup jasnim smjernicama i resursima za dobrobit pri radu s osjetljivim sadržajem
- Na zahtjev su dostupne razumne prilagodbe
- Za svaku uspješnu preporuku možete zaraditi do 90 USD