51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red team -asiantuntija – etätyö Yhdysvalloissa
Mercor etsii etätyöhön tekoälyn turvallisuuden red team -asiantuntijaa haastamaan kehittyneitä tekoälymalleja ja paljastamaan haavoittuvuuksia korkean riskin aloilla. Sopimustehtävä tukee tekoälylaboratorioita kehittyneiden järjestelmien kehittämisessä ja parantamisessa.
Kuvaus
- Luo vastakkaisasetteluun perustuvia kehotteita kehittyneiden tekoälymallien testaamiseksi
- Tunnista jailbreak-yritykset, vaarallinen toiminta, hallusinaatiot ja käytäntörikkomukset
- Arvioi mallien kestävyyttä disinformaatiota, kyberuhkia, bioturvallisuusriskejä, petoksia, poliittista sisältöä ja muita arkaluonteisia aiheita vastaan
- Kirjaa löydetyt haavoittuvuudet ja auta laatimaan turvallisuuden vertailuarvoja sekä red team -raportteja
- Tee yhteistyötä tekoälytutkijoiden kanssa mallien kohdistuksen, kestävyyden ja turvallisuuden vahvistamiseksi
- Osallistu hankkeisiin, joissa tekoälyjärjestelmiä koulutetaan ja parannetaan
Vaatimukset
- Alempi tai ylempi korkeakoulututkinto tietojenkäsittelytieteestä, kyberturvallisuudesta, journalismista, viestinnästä, psykologiasta, biologiasta, kemiasta, julkishallinnosta tai vastaavalta alalta
- Vähintään viiden vuoden työkokemus tekoälyn turvallisuudesta, tekoälyn red team -testauksesta, luottamuksesta ja turvallisuudesta, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta
- Vahva analyyttinen arviointikyky, kehotteiden suunnittelutaito ja kirjallinen viestintätaito
- Kokemusta vastakkaisasetteluun perustuvien kehotteiden laatimisesta tai kehittyneiden tekoälyjärjestelmien arvioinnista
- Kokemus tekoälyn red team -testauksesta, RLHF:stä, SFT:stä, tekoälyn kohdistamisesta tai luottamuksesta ja turvallisuudesta katsotaan eduksi
- Jailbreak-testauksen, kehotetekniikan tai vastakkaisasetteluun perustuvien arviointimenetelmien tuntemus katsotaan eduksi
- Vähintään yhden harmaan alueen aihepiirin, kuten kyberturvallisuuden, bioturvallisuuden, poliittisen sisällön, disinformaation tai tieteellisen turvallisuuden, asiantuntemus katsotaan eduksi
- Kyky työskennellä itsenäisenä toimeksisaajana
- H-1B- ja STEM OPT -ehdokkaita ei tueta
Edut
- Täysin etätyö
- Joustava, itsenäisesti suunniteltava työaika
- Viikoittaiset maksut Stripen tai Wisen kautta
- Projektien kestoa voidaan pidentää, lyhentää tai ne voidaan päättää ennenaikaisesti liiketoiminnan tarpeiden ja suoriutumisen perusteella
- Kilpailukykyinen korvaus
- Yhteistyö johtavien tekoälytutkijoiden ja turvallisuustiimien kanssa
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Onnistuneesta suosittelusta voidaan maksaa enintään 340 dollarin palkkio sovellettavien rajoitusten mukaisesti