51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red team -asiantuntija – etätyö Yhdysvalloissa, sopimustehtävä
Mercor etsii sopimustehtävään tekoälyn turvallisuuden red team -asiantuntijaa haastamaan edistyneitä tekoälymalleja ja paljastamaan haavoittuvuuksia. Tehtävä keskittyy suuren riskin alueisiin ja tukee turvallisempien ja luotettavampien tekoälyjärjestelmien kehittämistä.
Kuvaus
- Luo vastakkainasetteluun perustuvia kehotteita, jotka haastavat edistyneitä tekoälymalleja perusteellisesti
- Tunnista jailbreak-hyökkäykset, turvaton toiminta, hallusinaatiot ja turvallisuuskäytäntöjen noudattamatta jättäminen
- Arvioi mallien kestävyyttä misinformaation, kyberturvallisuuden, bioturvallisuuden, petosten, poliittisen sisällön ja muiden arkaluonteisten aiheiden osalta
- Kirjaa havaitut heikkoudet ja tue turvallisuuden vertailumittareita sekä red team -raportteja
- Työskentele tekoälytutkijoiden kanssa mallien kohdistamisen, vankkuuden ja turvallisuuden edistämiseksi
- Auta suojaamaan ja parantamaan uusia edistyneitä tekoälyjärjestelmiä
- Vaikuta siihen, miten tekoälymallit käsittelevät haastavia turvallisuustilanteita todellisen maailman konteksteissa
Vaatimukset
- Alempi tai ylempi korkeakoulututkinto tietojenkäsittelytieteessä, kyberturvallisuudessa, journalismissa, viestinnässä, psykologiassa, biologiassa, kemiassa, julkishallinnossa tai vastaavalla alalla
- Vähintään viiden vuoden ammatillinen kokemus tekoälyn turvallisuudesta, tekoälyn red team -testauksesta, luottamuksesta ja turvallisuudesta, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta
- Vahva analyyttinen harkintakyky, kyky kehittää kehotteita ja hyvät kirjalliset viestintätaidot
- Käytännön kokemusta vastakkainasetteluun perustuvien kehotteiden luomisesta tai edistyneiden tekoälyjärjestelmien arvioinnista
- Eduksi: tausta tekoälyn red team -testauksessa, RLHF:ssä, SFT:ssä, tekoälyn kohdistamisessa tai luottamuksessa ja turvallisuudessa
- Eduksi: jailbreak-arviointien, kehotemuotoilun tai vastakkainasetteluun perustuvien arviointimenetelmien tuntemus
- Eduksi: asiantuntemus esimerkiksi kyberturvallisuudesta, bioturvallisuudesta, poliittisesta sisällöstä, misinformaatiosta tai tieteellisestä turvallisuudesta
- Valmius työskennellä itsenäisenä toimeksisaajana
- H-1B- ja STEM OPT -hakijoita ei tueta
Edut
- Työskentele täysin etänä
- Päätä itse työaikasi ja suorita tehtävät joustavalla aikataululla
- Saat viikoittaiset maksut Stripen tai Wisen kautta
- Projektin kesto voi muuttua tai projekti päättyä etuajassa liiketoiminnan tarpeiden ja suoriutumisen perusteella
- Kilpailukykyinen palkkio
- Työskentele johtavien tekoälytutkijoiden ja turvallisuustiimien kanssa
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Suositteluohjelma, jossa jokaisesta onnistuneesta suosittelusta voi saada enintään 340 dollaria suosittelurajoitusten mukaisesti