51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red team -testaaja
Testaa Mercorin kumppanilaboratorioiden kehittyneitä tekoälyjärjestelmiä etsimällä haavoittuvuuksia korkean riskin aihealueilta. Raportoi havainnot turvallisuuden vertailuarviointeihin ja auta tutkijoita parantamaan mallien kestävyyttä ja linjakkuutta.
Kuvaus
- Laadi vastakkaisia kehotteita kehittyneiden tekoälymallien testaamiseen.
- Etsi jailbreak-hyökkäyksiä, vaarallista toimintaa, hallusinaatioita ja käytäntörikkomuksia.
- Arvioi mallien kestävyyttä arkaluonteisilla alueilla, kuten misinformaatiossa, kyberturvallisuudessa, bioturvallisuudessa, petoksissa ja poliittisessa sisällössä.
- Kirjaa haavoittuvuudet ja osallistu turvallisuuden vertailuarviointeihin ja red team -raportteihin.
- Tee yhteistyötä tekoälytutkijoiden kanssa mallien linjakkuuden, kestävyyden ja turvallisuuden vahvistamiseksi.
- Tue tekoälyjärjestelmien koulutukseen ja kehittämiseen liittyviä projekteja.
- Voit päättää itse työaikasi; projektin kesto voi muuttua tai päättyä aiemmin liiketoiminnan tarpeiden ja suoriutumisen mukaan.
Vaatimukset
- Tietojenkäsittelytieteen, kyberturvallisuuden, journalismin, viestinnän, psykologian, biologian, kemian, julkishallinnon tai vastaavan alan kandidaatin tutkinto tai korkeampi tutkinto.
- Vähintään viiden vuoden työkokemus tekoälyn turvallisuudesta, tekoälyn red team -testauksesta, luottamus- ja turvallisuustyöstä, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta.
- Vahvat analyyttisen päättelyn, kehotteiden suunnittelun ja kirjoittamisen taidot.
- Kokemusta vastakkaisten kehotteiden laatimisesta tai kehittyneiden tekoälyjärjestelmien arvioinnista.
- Edusksi katsotaan kokemus tekoälyn red team -testauksesta, RLHF:stä, SFT:stä, tekoälyn linjakkuudesta tai luottamus- ja turvallisuustyöstä.
- Edusksi katsotaan jailbreak-testauksen, kehotetekniikan tai vastakkaisten arviointimenetelmien tuntemus.
- Edusksi katsotaan asiantuntemus yhdeltä tai useammalta arkaluonteiselta alueelta, kuten kyberturvallisuudesta, bioturvallisuudesta, poliittisesta sisällöstä, misinformaatiosta tai tieteellisestä turvallisuudesta.
- Työ tehdään itsenäisenä toimeksisaajana.
- Työskentely ei saa edellyttää H-1B- tai STEM OPT -tukea.
Edut
- Täysin etätyö joustavalla aikataululla.
- Viikoittaiset maksut Stripe- tai Wise-palvelun kautta tehdyistä töistä.
- Mahdollisuus työskennellä johtavien tekoälytutkijoiden ja turvallisuustiimien kanssa.
- Mahdollisuus vaikuttaa siihen, miten tekoälyjärjestelmät käsittelevät monimutkaisia todellisen maailman turvallisuushaasteita.
- Kilpailukykyinen palkkio.
- Kohtuullisia mukautuksia on saatavilla pyynnöstä.
- Suosituspalkkiot ovat enintään 340 dollaria onnistunutta suositusta kohden, rajoitukset huomioiden.