51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Udaljeni stručnjak za sigurnost umjetne inteligencije – engleski i gudžaratski
Provodite adversarijalno testiranje partnerskih modela i agenata umjetne inteligencije kako biste prepoznali ranjivosti, pristranost i štetna ponašanja. Izrađujte anotirane skupove podataka, napadačke slučajeve i ponovljive izvještaje koji poboljšavaju evaluacije vrhunske umjetne inteligencije.
Opis
- Testirajte konverzacijske modele i agente umjetne inteligencije pomoću jailbreakova, prompt injekcija, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Izrađujte podatke koje generiraju ljudi anotiranjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Primjenjujte utvrđene taksonomije, referentne testove i priručnike kako biste održali dosljedne evaluacije
- Razvijajte ponovljive izvještaje, skupove podataka i napadačke slučajeve za klijente
- Procjenjujte odgovore umjetne inteligencije koji uključuju pristranost, dezinformacije, štetno ponašanje i druge osjetljive teme
- Pronalazite slabosti koje automatizirano testiranje ne otkriva
- Proširujte pokrivenost evaluacija kako biste pomogli smanjiti neočekivane probleme u produkciji
- Poboljšavajte korisničke sustave umjetne inteligencije strukturiranim adversarijalnim testiranjem
Zahtjevi
- Potrebno je izvorno znanje engleskog i gudžaratskog jezika
- Dokazana sposobnost prosuđivanja jezika i sadržaja, uključujući procjenu jesu li odgovori umjetne inteligencije točni, potpuni i primjereni, uz sposobnost objašnjenja procjene
- Izrazita pažnja prema suptilnim pogreškama, nedosljednostima i izostancima
- Sposobnost dosljedne primjene smjernica i standarda kvalitete
- Sposobnost jasnog obrazlaganja zaključaka tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, vrstama zadataka i za različite klijente
- Angažman je organiziran kao suradnja s neovisnim ugovarateljem
- Kandidati ne smiju biti kandidati za H-1B ili STEM OPT
- Prednost imaju iskustva u adversarijalnom strojnom učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju
Pogodnosti
- Radite u potpunosti na daljinu prema rasporedu koji sami odredite
- Primajte tjedne isplate putem Stripea ili Wisea za pružene usluge
- Odaberite želite li sudjelovati u projektima veće osjetljivosti
- Dobijte jasne smjernice i resurse za dobrobit za projekte koji uključuju osjetljiv sadržaj
- Konkurentna naknada
- Surađujte s vodećim istraživačima
- Ostvarite naknade za preporuke do 90 USD za svaku uspješnu preporuku, uz primjenjiva ograničenja