Mercor
Mercor
51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.

Tekoälyn turvallisuuden red team -testaaja

Mercor etsii tekoälyn turvallisuuden red team -testaajaa tutkimaan edistyneitä tekoälyjärjestelmiä vastakkainasetteluun perustuvilla testeillä tekoälyn koulutusprojekteja varten. Tehtävässä laaditaan haastavia kehotteita ja dokumentoidaan haavoittuvuuksia korkean riskin aihealueilla.

Kuvaus

  • Laadi vastakkainasetteluun perustuvia kehotteita, jotka haastavat edistyneet tekoälymallit
  • Tunnista jailbreak-yritykset, vaarallinen toiminta, hallusinaatiot ja käytäntörikkomukset
  • Arvioi mallien kestävyyttä misinformaation, kyberturvallisuuden, bioturvallisuuden, petosten, poliittisen sisällön ja muiden arkaluonteisten aiheiden osalta
  • Dokumentoi havaitut haavoittuvuudet ja tue turvallisuuden vertailuarvoja sekä red team -raportteja
  • Tee yhteistyötä tekoälytutkijoiden kanssa mallien linjaamisen, kestävyyden ja turvallisuuden vahvistamiseksi
  • Osallistu projekteihin, joissa tekoälyjärjestelmiä koulutetaan ja parannetaan

Vaatimukset

  • Vähintään kandidaatin tutkinto tietojenkäsittelytieteessä, kyberturvallisuudessa, journalismissa, viestinnässä, psykologiassa, biologiassa, kemiassa, julkishallinnossa tai vastaavalla alalla
  • Vähintään viiden vuoden työkokemus tekoälyn turvallisuudesta, tekoälyn red team -testauksesta, luottamuksesta ja turvallisuudesta, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta
  • Vahvat analyyttisen päättelyn, kehotteiden suunnittelun ja kirjallisen viestinnän taidot
  • Kokemusta vastakkainasetteluun perustuvien kehotteiden laatimisesta tai edistyneiden tekoälyjärjestelmien arvioinnista
  • Asuinpaikka jollakin luetelluista tukikelpoisista alueista
  • H-1B- ja STEM OPT -hakijoita ei tueta

Edut

  • Työskentele täysin etänä
  • Valitse joustava aikataulu ja tee työtä sinulle sopivina aikoina
  • Saat viikoittaiset maksut Stripen tai Wisen kautta
  • Tee yhteistyötä johtavien tekoälytutkijoiden ja turvallisuustiimien kanssa
  • Auta muovaamaan edistyneiden tekoälyjärjestelmien turvallisuutta ja linjaamista
  • Projektin kesto voi muuttua tai projekti päättyä ennenaikaisesti liiketoimintatarpeiden ja suoriutumisen perusteella
  • Ansaitse onnistuneesta suosittelusta enintään 340 dollarin suosittelupalkkio suosittelurajoitusten mukaisesti

Samankaltaiset työpaikat

Inkster GmbH

Markkinointipäällikkö, hybridityö Hampurissa

Inkster GmbH

Johda kampanjoiden luovaa suunnittelua, sosiaalisen median sisältöjä ja tulosten analysointia Inksterillä, eurooppalaisella väliaikaisten hedelmäpohjaisten tatuointien tarjoajalla. Testaa ja optimoi markkinointimateriaaleja kampanjatulosten ja markkinatrendien avulla.

Avaa