51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden asiantuntija – englanti ja marathi (etätyö)
Mercor etsii englantia ja marathia puhuvia tekoälyn turvallisuuden asiantuntijoita keskustelumallien ja -agenttien red team -testaukseen. Työhön kuuluu haavoittuvuuksien tunnistamista, arkaluonteisten tulosteiden arviointia ja toistettavan turvallisuusdatan tuottamista tekoälylaboratorioille ja asiakkaille.
Kuvaus
- Suorita keskusteluun perustuvien tekoälymallien ja -agenttien red team -testausta jailbreak-menetelmillä, prompt-injektioilla, väärinkäyttöskenaarioilla, vinoumien hyödyntämisellä ja monivaiheisella manipuloinnilla
- Luo ihmisen tekemän arvioinnin dataa merkitsemällä virheitä, luokittelemalla haavoittuvuuksia ja tunnistamalla järjestelmätason riskejä
- Hyödynnä vakiintuneita taksonomioita, vertailuarviointeja ja toimintaohjeita arviointien yhdenmukaisuuden tukena
- Laadi asiakkaille toistettavia raportteja, aineistoja ja hyökkäystapauksia
- Arvioi tekoälyn tuotoksia, jotka liittyvät vinoumiin, väärään tietoon, haitalliseen toimintaan ja muihin arkaluonteisiin aiheisiin
- Tunnista haavoittuvuuksia, joita automaattinen testaus ei välttämättä havaitse
- Laajenna arviointien kattavuutta odottamattomien tuotanto-ongelmien minimoimiseksi
- Tue asiakkaita niiden tekoälyjärjestelmien turvallisuuden, vankkuuden ja luotettavuuden parantamisessa
Vaatimukset
- Englannin ja marathin kielen äidinkielinen taito
- Vahva harkintakyky kielen ja sisällön arvioinnissa, mukaan lukien tekoälyn vastausten täsmällisyyden, kattavuuden ja asianmukaisuuden arviointi
- Kyky havaita hienovaraisia virheitä, ristiriitoja ja puutteita
- Kyky noudattaa ohjeita ja laatustandardeja johdonmukaisesti
- Kyky viestiä perustelut selkeästi tekniselle ja ei-tekniselle yleisölle
- Sopeutumiskyky erilaisiin projekteihin, tehtävätyyppeihin ja asiakkaisiin
- Kyky työskennellä itsenäisenä toimeksisaajana
- H-1B- tai STEM OPT -tukea ei saa tarvita
- Eduksi katsotaan vastakkainasetteluun perustuvan koneoppimisen kokemus jailbreak-aineistoista, prompt-injektioista, RLHF- tai DPO-hyökkäyksistä tai mallien ekstraktiosta
- Eduksi katsotaan kyberturvallisuuskokemus penetraatiotestauksesta, hyväksikäyttöjen kehittämisestä tai käänteistekniikasta
- Eduksi katsotaan sosioteknisten riskien kokemus häirinnän tai disinformaation tutkimisesta, väärinkäytösten analysoinnista tai keskusteluun perustuvan tekoälyn testaamisesta
- Eduksi katsotaan psykologian, näyttelemisen tai kirjoittamisen kokemus, joka tukee epätavanomaista vastakkain ajattelevaa lähestymistapaa
Edut
- Täysin etänä tehtävä työ, jonka voi suorittaa oman aikataulun mukaan
- Viikoittaiset maksut Stripen tai Wisen kautta
- Mahdollisuus osallistua vapaaehtoisesti korkeamman arkaluonteisuuden projekteihin
- Selkeät ohjeet ja hyvinvointiresurssit arkaluonteista sisältöä käsittelevään työhön
- Kilpailukykyinen palkka
- Mahdollisuus tehdä yhteistyötä johtavien tutkijoiden kanssa
- Suosittelupalkkiot, enintään 90 dollaria onnistunutta suosittelua kohden, rajoitusten mukaisesti