51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i asamski (ugovorni rad na daljinu)
Testirajte konverzacijske sustave umjetne inteligencije na jailbreakove, pristranost, rizike ubrizgavanja upita i druge ranjivosti. Izrađujte jasne i ponovljive artefakte ljudskih podataka koji pomažu naprednu umjetnu inteligenciju učiniti sigurnijom i pouzdanijom.
Opis
- Testirajte konverzacijske modele i agente umjetne inteligencije na jailbreakove, ubrizgavanje upita, scenarije zlouporabe, iskorištavanje pristranosti i manipulaciju kroz više razgovora
- Izrađujte anotacije ljudskih podataka dokumentiranjem kvarova, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koristite utvrđene taksonomije, referentne testove i priručnike za dosljedno provođenje evaluacija
- Isporučujte korisnicima ponovljiva izvješća, skupove podataka i scenarije napada
- Pronalazite slabosti koje automatizirano testiranje može previdjeti
- Proširujte obuhvat evaluacije kako biste pomogli smanjiti neočekivane probleme u produkciji
- Procjenjujte rezultate umjetne inteligencije na osjetljive teme u skladu s dobivenim smjernicama
Zahtjevi
- Izvorna tečnost u engleskom i asamskom jeziku
- Dobar rasuđivački sud pri procjeni jezika i sadržaja, uključujući procjenu jesu li odgovori umjetne inteligencije točni, potpuni i primjereni
- Izražena pažnja prema suptilnim pogreškama, nedosljednostima i propustima
- Dosljedno pridržavanje smjernica i standarda kvalitete
- Sposobnost jasnog objašnjavanja zaključivanja tehničkoj i netehničkoj publici
- Fleksibilnost za rad na različitim projektima, formatima zadataka i s različitim korisnicima
- Status neovisnog ugovaratelja
- Spremnost na rad s osjetljivim temama poput pristranosti, dezinformacija i štetnog ponašanja; sudjelovanje u projektima veće osjetljivosti nije obavezno
- Kandidati s vizama H-1B i STEM OPT nisu podržani
Pogodnosti
- Potpuno udaljeni rad uz fleksibilan raspored koji sami određujete
- Tjedne isplate putem Stripea ili Wisea
- Prilika za stjecanje iskustva u crvenom timu umjetne inteligencije na temelju ljudskih podataka
- Izravan doprinos robusnijim, sigurnijim i pouzdanijim sustavima umjetne inteligencije
- Mogućnosti suradnje s vodećim istraživačima
- Na zahtjev su dostupne razumne prilagodbe
- Poticaj za preporuke u iznosu do 90 USD za svaku uspješnu preporuku