51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red team -asiantuntija – etätyösopimus (Yhdysvallat)
Mercor etsii tekoälyn turvallisuuden red team -asiantuntijaa paljastamaan kehittyneiden tekoälymallien haavoittuvuuksia vastakkainasetteluun perustuvalla testauksella. Tehtävässä suunnitellaan kehotteita ja arvioidaan mallien riskialtista toimintaa yhdessä tekoälyn turvallisuustutkijoiden kanssa.
Kuvaus
- Laadi vastakkainasetteluun perustuvia kehotteita kehittyneiden tekoälymallien haastamiseen
- Tunnista jailbreak-yritykset, turvaton toiminta, hallusinaatiot ja käytäntörikkomukset
- Arvioi mallien kestävyyttä disinformaation, kyberturvallisuuden, bioturvallisuuden, petosten, poliittisen sisällön ja muiden arkaluonteisten aiheiden osalta
- Kirjaa haavoittuvuudet ja tue turvallisuuden vertailumittareita sekä red team -raportteja
- Tee yhteistyötä tekoälytutkijoiden kanssa mallien linjakkuuden, kestävyyden ja turvallisuuden vahvistamiseksi
- Osallistu hankkeisiin, joissa tekoälyjärjestelmiä koulutetaan ja kehitetään
Vaatimukset
- Alempi tai ylempi korkeakoulututkinto tietojenkäsittelytieteessä, kyberturvallisuudessa, journalismissa, viestinnässä, psykologiassa, biologiassa, kemiassa, julkishallinnossa tai vastaavalla alalla
- Vähintään viiden vuoden ammatillinen kokemus tekoälyn turvallisuudesta, tekoälyn red team -testauksesta, luottamuksesta ja turvallisuudesta, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta
- Erinomaiset analyyttisen päättelyn, kehotteiden suunnittelun ja kirjallisen viestinnän taidot
- Kokemusta vastakkainasetteluun perustuvien kehotteiden laatimisesta tai kehittyneiden tekoälyjärjestelmien arvioinnista
- Eduksi katsotaan kokemus tekoälyn red team -testauksesta, RLHF:stä, SFT:stä, tekoälyn linjakkuudesta tai luottamuksesta ja turvallisuudesta
- Eduksi katsotaan jailbreak-testauksen, kehotetekniikan tai vastakkainasetteluun perustuvien arviointimenetelmien tuntemus
- Eduksi katsotaan asiantuntemus yhdellä tai useammalla harmaan alueen aihealueella, kuten kyberturvallisuudessa, bioturvallisuudessa, poliittisessa sisällössä, disinformaatiossa tai tieteellisessä turvallisuudessa
- Kyky työskennellä itsenäisenä toimeksisaajana
- H-1B- ja STEM OPT -hakijoita ei tueta
Edut
- Täysin etänä tehtävä työ
- Joustavat työajat
- Viikoittaiset maksut Stripen tai Wisen kautta
- Projektien kestoa voidaan pidentää tai lyhentää, tai ne voidaan päättää aikaisemmin liiketoimintatarpeiden ja suoriutumisen perusteella
- Vastakkainasetteluun perustuvaa testaustyötä johtavien tekoälytutkijoiden ja turvallisuustiimien kanssa
- Mahdollisuus vaikuttaa siihen, miten tekoälyjärjestelmät käsittelevät monimutkaisia, todellisen maailman turvallisuushaasteita
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Enintään 340 dollarin suosittelupalkkiot onnistuneesta suosittelusta suosittelurajoitusten mukaisesti