51 – 200 Töötajad
Mercori kättesaadav profiil ei sisalda piisavalt kontrollitud teavet ettevõtte toodete, teenuste, klientide, tegevusvaldkonna või värbamisfookuse kohta, et koostada täpne ettevõtte ülevaade. Ettevõtte või selle pakutavate võimaluste kirjeldamiseks on vaja täiendavat lähtematerjali.
Tehisintellekti turvalisuse red team'i ekspert (inglise ja pandžabi keel)
Mercor otsib inglise ja pandžabi keelt kõnelevat tehisintellekti turvalisuse eksperti vestlusmudelite ja agentide red team'i testimiseks. Lepinguline töö keskendub haavatavuste leidmisele, ründestsenaariumide loomisele ja tehisintellekti uurimisklientidele korratavate turvaraportite koostamisele.
Kirjeldus
- Testi vestluslikke tehisintellekti mudeleid ja agente jailbreak-rünnete, prompt-injektsioonide, väärkasutusstsenaariumide, kallutatuse ärakasutamise ja mitmevoorulise manipuleerimisega
- Hinda mudelite väljundeid tundlikel teemadel, sealhulgas kallutatuse, väärinfo ja kahjuliku käitumise puhul
- Dokumenteeri tõrked, liigenda haavatavused ja tuvasta süsteemsed riskid
- Kasuta väljakujunenud taksonoomiaid, võrdlusaluseid ja juhendeid järjepidevate hindamiste tagamiseks
- Koosta klientidele korratavaid raporteid, andmekogumeid ja ründestsenaariume
- Uuri tehisintellektisüsteeme, et leida nõrkusi, mida automatiseeritud testimine võib märkamata jätta
- Laienda hindamise ulatust, et aidata piirata tootmises ilmnevaid ootamatuid probleeme
- Täiusta klientide tehisintellektisüsteeme inimese juhitud ja andmepõhise red team'i testimise abil
Nõuded
- Inglise ja pandžabi keele emakeelne või sorav oskus
- Hea otsustusvõime keele ja sisu hindamisel
- Oskus kindlaks teha, kas tehisintellekti vastused on täpsed, täielikud ja asjakohased, ning hindamist selgitada
- Väga hoolikas suhtumine peenetesse vigadesse, vastuoludesse ja puudustesse
- Testimisjuhiste ja kvaliteedistandardite järjepidev järgimine
- Oskus väljendada arutluskäiku selgelt nii tehnilisele kui ka mittetehnilisele sihtrühmale
- Paindlikkus töötada eri projektide, ülesandevormingute ja klientidega
- Valmisolek töötada sõltumatu lepingupartnerina
- H-1B või STEM OPT tuge ei tohi vaja minna
- Eelistatud teadmised võivad hõlmata vastandlikku masinõpet, jailbreak-andmekogumeid, prompt-injektsioone, RLHF/DPO ründeid, mudeli eraldamist, penetratsioonitestimist, rünnete arendamist, pöördprojekteerimist, ahistamise või desinformatsiooni uurimist, väärkasutuse analüüsi, vestlusliku tehisintellekti testimist, psühholoogiat, näitlemist või kirjutamist
Hüved
- Tööta kaugtööna mis tahes rolli piires lubatud asukohast
- Määra ise oma töögraafik
- Saa osutatud teenuste eest iganädalasi makseid Stripe'i või Wise'i kaudu
- Projekte võidakse ärivajaduste ja töösoorituse põhjal pikendada, vähendada või ennetähtaegselt lõpetada
- Kasuta heaoluressursse ja selgeid juhiseid suurema tundlikkusega projektide jaoks
- Loo kogemust inimese loodud andmetel põhinevas tehisintellekti red team'i testimises
- Aita muuta tehisintellektisüsteeme töökindlamaks, turvalisemaks ja usaldusväärsemaks
- Konkurentsivõimeline tasu
- Tee koostööd juhtivate tehisintellekti uurijatega