51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red teaming -asiantuntija (englanti ja pandžabi)
Testaa keskustelevia tekoälymalleja ja -agentteja vastakkainasettelevasti englanniksi ja pandžabiksi. Luo haavoittuvuuksien annotaatioita, hyökkäystapauksia, aineistoja ja toistettavia turvallisuusraportteja Mercorin ihmisaineistoa hyödyntäviin tekoälyn turvallisuusprojekteihin.
Kuvaus
- Testaa keskustelevia tekoälymalleja ja -agentteja jailbreak-hyökkäyksillä, prompt-injektioilla, väärinkäyttöskenaarioilla, vinoumien hyödyntämisellä ja monivaiheisella manipuloinnilla
- Luo ihmisaineiston annotaatioita dokumentoimalla virheitä, luokittelemalla haavoittuvuuksia ja tunnistamalla järjestelmätason riskejä
- Käytä vakiintuneita taksonomioita, vertailuarvoja ja toimintaohjeita arviointien yhdenmukaisuuden ylläpitämiseksi
- Toimita asiakkaille toistettavia raportteja, aineistoja ja hyökkäystapauksia
- Arvioi tekoälyn tuotoksia, jotka liittyvät vinoumiin, väärään tietoon, haitalliseen toimintaan ja muihin arkaluonteisiin aiheisiin
- Laajenna arviointien kattavuutta tunnistaaksesi haavoittuvuuksia, jotka automatisoitu testaus saattaa jättää huomaamatta
- Auta parantamaan asiakkaiden tekoälyjärjestelmien turvallisuutta, vankkuutta ja luotettavuutta
Vaatimukset
- Äidinkielentason tai sujuva englannin ja pandžabin taito
- Hyvä harkintakyky tekoälyn tuottaman sisällön tarkkuuden, kattavuuden ja asianmukaisuuden arvioinnissa
- Kyky havaita vivahteikkaita virheitä, epäjohdonmukaisuuksia ja puutteita
- Ohjeiden, taksonomioiden, vertailuarvojen, toimintaohjeiden ja laatustandardien johdonmukainen noudattaminen
- Perustelujen selkeä viestintä tekniselle ja ei-tekniselle yleisölle
- Joustavuus eri projektien, tehtävämuotojen ja asiakasvaatimusten välillä
- Kyky työskennellä itsenäisenä toimeksisaajana
- H1-B- ja STEM OPT -hakijoita ei tueta
- Hyödyllinen tausta vastakkainasettelevassa koneoppimisessa, jailbreak-aineistoissa, prompt-injektio- tai RLHF/DPO-hyökkäyksissä, mallien eristämisessä, penetraatiotestauksessa, hyökkäysten kehittämisessä, käänteismallinnuksessa, häirinnän tai disinformaation testaamisessa, väärinkäytösten analysoinnissa, keskustelevan tekoälyn testaamisessa, psykologiassa, näyttelemisessä tai epätavanomaisessa vastakkainasettelevassa kirjoittamisessa
Edut
- Täysin etätyö joustavalla ja itsenäisesti hallittavalla aikataululla
- Viikoittaiset maksut Stripen tai Wisen kautta
- Kilpailukykyinen korvaus
- Hyvinvointiresursseja ja selkeät ohjeet korkeamman herkkyystason projekteihin
- Kohtuulliset mukautukset saatavilla pyynnöstä
- Jopa 90 dollarin suosittelupalkkiot jokaisesta onnistuneesta suosittelusta
- Yhteistyömahdollisuuksia johtavien tutkijoiden kanssa
- Käytännön kokemusta ihmisaineistoa hyödyntävästä tekoälyn red teamingistä tekoälyn turvallisuuden eturintamassa