51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälymallien turvallisuuden red team -asiantuntija
Testaa Mercorin edistyneitä tekoälymalleja turvallisuuspuutteiden löytämiseksi hyökkäävillä testeillä. Tunnista haavoittuvuuksia ja auta parantamaan mallien linjakkuutta.
Kuvaus
- Laadi hyökkääviä kehotteita edistyneiden tekoälymallien testaamiseen.
- Etsi jailbreak-keinoja, turvatonta toimintaa, hallusinaatioita ja käytäntörikkomuksia.
- Testaa mallien kykyä vastustaa misinformaatiota, kyberhyökkäyksiä, bioturvallisuusuhkia, petoksia, poliittista sisältöä ja muita arkaluonteisia aiheita.
- Kirjaa haavoittuvuudet ja auta laatimaan turvallisuuden vertailutestejä ja red team -raportteja.
- Tee yhteistyötä tekoälytutkijoiden kanssa mallien linjakkuuden, häiriönsietokyvyn ja turvallisuuden vahvistamiseksi.
- Auta suojaamaan ja parantamaan edistyneiden tekoälymallien seuraavaa sukupolvea.
- Osallistu tekoälyjärjestelmien koulutusta ja kehittämistä tukeviin projekteihin.
Vaatimukset
- Vähintään kandidaatin tutkinto tietojenkäsittelytieteestä, kyberturvallisuudesta, journalismista, viestinnästä, psykologiasta, biologiasta, kemiasta, julkishallinnosta tai vastaavalta alalta
- Vähintään viiden vuoden työkokemus tekoälyn turvallisuudesta, tekoälyn red team -testauksesta, luottamuksesta ja turvallisuudesta, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta
- Vahvat analyyttisen päättelyn, kehotteiden suunnittelun ja kirjoittamisen taidot
- Kokemusta hyökkäävien kehotteiden laatimisesta tai edistyneiden tekoälyjärjestelmien arvioinnista
- Kokemus tekoälyn red team -testauksesta, RLHF:stä, valvotusta hienosäädöstä, tekoälyn linjakkuudesta tai luottamuksesta ja turvallisuudesta katsotaan eduksi
- Jailbreak-testauksen, kehotetekniikan tai hyökkäävien arviointimenetelmien tuntemus katsotaan eduksi
- Asiantuntemus vähintään yhdeltä arkaluonteiselta alueelta, kuten kyberturvallisuudesta, bioturvallisuudesta, poliittisesta sisällöstä, misinformaatiosta tai tieteen turvallisuudesta, katsotaan eduksi
- Työhön ei voi hakea, jos tarvitset H-1B- tai STEM OPT -sponsorointia; Mercor ei voi tukea kumpaakaan sponsorointimuotoa tarvitsevia hakijoita
Edut
- Täysin etätyö ja joustava työaika
- Viikoittaiset maksut Stripen tai Wisen kautta tehdystä työstä
- Projektin kesto voi muuttua tai projekti päättyä ennenaikaisesti tarpeiden ja suoriutumisen mukaan
- Työskentele johtavien tekoälytutkijoiden ja turvallisuustiimien kanssa
- Auta määrittämään, miten tekoälyjärjestelmät käsittelevät monimutkaisia, todellisen maailman turvallisuushaasteita
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Suosituspalkkiot enintään 340 dollaria onnistunutta suositusta kohden, ehtojen mukaisesti