51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red team -asiantuntija – englanti ja tamili, etätyö sopimuksella
Testaa keskustelevia tekoälymalleja ja -agentteja haavoittuvuuksien löytämiseksi vastakkainasetteluun perustuvalla testauksella ja jäsennellyllä red team -analyysillä. Luo hyökkäystapauksia, haavoittuvuustietoja ja toistettavia raportteja Mercorin tekoälylaboratorion asiakkaille.
Kuvaus
- Testaa keskustelevia tekoälymalleja ja -agentteja jailbreak-menetelmillä, prompt-injektioilla, väärinkäyttöskenaarioilla, vinoumien hyödyntämisellä ja monivaiheisella manipuloinnilla
- Luo ihmisten merkitsemää dataa dokumentoimalla virheitä, luokittelemalla haavoittuvuuksia ja tunnistamalla järjestelmätason riskejä
- Hyödynnä vakiintuneita taksonomioita, vertailuarvoja ja pelikirjoja arviointien johdonmukaisuuden varmistamiseksi
- Laadi asiakkaille toistettavia raportteja, aineistoja ja hyökkäystapauksia
- Arvioi tekoälyn tuotoksia, joihin liittyy vinoumia, väärää tietoa, haitallista käyttäytymistä ja muita arkaluonteisia aiheita
- Tunnista heikkouksia, jotka automatisoidussa testauksessa saattavat jäädä huomaamatta
- Laajenna arviointien kattavuutta ja auta ehkäisemään odottamattomia tuotanto-ongelmia
- Paranna asiakkaiden tekoälyjärjestelmiä ja edistä turvallisempia ja luotettavampia malleja
Vaatimukset
- Englannin ja tamilin kielen äidinkielen tasoinen hallinta
- Harkintakykyä kielen ja sisällön arvioinnissa
- Kyky määrittää, ovatko tekoälyn vastaukset täsmällisiä, kattavia ja asianmukaisia, sekä perustella arvio
- Huolellisuutta hienovaraisten virheiden, ristiriitojen ja puutteiden havaitsemisessa
- Kyky soveltaa ohjeita ja laatustandardeja johdonmukaisesti
- Selkeä kyky viestiä perusteluista teknisille ja ei-teknisille yleisöille
- Joustavuutta eri projektien, tehtävämuotojen ja asiakkaiden parissa
- Eduksi: vastakkainasetteluun perustuvan koneoppimisen kokemus jailbreak-aineistoista, prompt-injektioista, RLHF- tai DPO-hyökkäyksistä tai mallien eristämisestä
- Eduksi: kyberturvallisuustausta penetraatiotestauksesta, hyväksikäyttöjen kehittämisestä tai käänteistekniikasta
- Eduksi: kokemus sosioteknisistä riskeistä, kuten häirinnän ja disinformaation testaamisesta, väärinkäytösten analyysistä tai keskustelevan tekoälyn testaamisesta
- Eduksi: luovaa testaamiskokemusta psykologiasta, näyttelemisestä tai kirjoittamisesta
- Työ on tehtävä itsenäisenä toimeksisaajana
- H-1B- ja STEM OPT -ehdokkaita ei tueta
Edut
- Täysin etätyö
- Joustava työaika, jossa voit määrittää omat työaikasi
- Viikoittaiset maksut Stripen tai Wisen kautta
- Kilpailukykyinen tuntikorvaus
- Mahdollisuus saada kokemusta ihmisten tuottamaan dataan perustuvasta tekoälyn red team -testauksesta, joka keskittyy edistyneeseen turvallisuuteen
- Suora mahdollisuus edistää vankempia, turvallisempia ja luotettavampia tekoälyjärjestelmiä
- Mahdollisuus osallistua vapaaehtoisesti erityisen arkaluonteisiin projekteihin
- Ohjeistusta ja hyvinvointiresursseja arkaluonteista sisältöä sisältäviin projekteihin
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Suositteluohjelma, jossa voi saada enintään 90 dollaria onnistunutta suosittelua kohden suosittelurajoitusten puitteissa