Mercor
Mercor
51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.

Tekoälyn turvallisuuden red team -asiantuntija

Mercor etsii tekoälyn turvallisuuden red team -asiantuntijaa testaamaan edistyneitä tekoälyjärjestelmiä adversaarisilla kehotteilla. Tehtävässä dokumentoit riskejä ja työskentelet tutkijoiden kanssa mallien turvallisuuden ja linjakkuuden vahvistamiseksi.

Kuvaus

  • Laadi adversaarisia kehotteita edistyneiden tekoälymallien testaamiseen
  • Etsi jailbreak-menetelmiä, turvattomia tulosteita, hallusinaatioita ja käytäntöjen puutteita
  • Arvioi mallien kestävyyttä arkaluonteisissa aiheissa, kuten misinformaatiossa, kyberturvallisuudessa, bioturvallisuudessa, petoksissa ja poliittisessa sisällössä
  • Kirjaa haavoittuvuudet ja auta laatimaan turvallisuuden vertailutestejä ja red teaming -raportteja
  • Työskentele tekoälytutkijoiden kanssa mallien linjakkuuden, kestävyyden ja turvallisuuden vahvistamiseksi
  • Osallistu tekoälyjärjestelmien koulutus- ja kehitysprojekteihin

Vaatimukset

  • Alempi tai ylempi korkeakoulututkinto tietojenkäsittelytieteessä, kyberturvallisuudessa, journalismissa, viestinnässä, psykologiassa, biologiassa, kemiassa, julkishallinnossa tai vastaavalta alalta
  • Vähintään viiden vuoden työkokemus tekoälyn turvallisuudesta, tekoälyn red teaming -testauksesta, luottamuksesta ja turvallisuudesta, kyberturvallisuudesta, tutkivasta journalismista, biotieteistä tai vastaavalta alalta
  • Vahvat analyyttisen päättelyn, kehotteiden suunnittelun ja kirjoittamisen taidot
  • Kokemusta adversaaristen kehotteiden laatimisesta tai edistyneiden tekoälyjärjestelmien arvioinnista
  • Eduksi: tausta tekoälyn red teaming -testauksessa, RLHF-menetelmissä, ohjatussa hienosäädössä, tekoälyn linjakkuudessa tai luottamuksen ja turvallisuuden parissa
  • Eduksi: jailbreak-testauksen, kehotetekniikan tai adversaaristen arviointimenetelmien tuntemus
  • Eduksi: asiantuntemusta vaativista aiheista, kuten kyberturvallisuudesta, bioturvallisuudesta, poliittisesta sisällöstä, misinformaatiosta tai tieteellisestä turvallisuudesta
  • Pystyttävä työskentelemään itsenäisenä toimeksisaajana
  • H-1B- ja STEM OPT -hakijoita ei voida tukea

Edut

  • Täysin etätyö joustavalla aikataululla
  • Korvaukset tarjotuista palveluista maksetaan viikoittain Stripen tai Wisen kautta
  • Projektin kestoa voidaan pidentää, lyhentää tai se voidaan päättää ennenaikaisesti tarpeiden ja suoriutumisen perusteella
  • Kilpailukykyinen korvaus
  • Mahdollisuus tehdä yhteistyötä johtavien tutkijoiden ja turvallisuustiimien kanssa
  • Kohtuullisia mukautuksia on saatavilla pyynnöstä
  • Suosittelupalkkio enintään 340 dollaria onnistunutta suositusta kohden, rajoitusten mukaisesti

Samankaltaiset työpaikat

CVS Health

Senior Coding Quality Analyst, erityistutkinnat

CVS Health

Arvioi CVS Healthin erityistutkintayksikön koodaamisen laatua sekä terveydenhuollon korvaushakemusten paikkansapitävyyttä ja sääntöjenmukaisuutta. Tunnista mahdolliset laskutusvirheet, petokset, tuhlaus, väärinkäytökset ja epäilyttävät toimintamallit.

Avaa
S&P Global

Johtava hyödykeanalyytikko, globaalit viljelykasvit

S&P Global

Johda maatalousmarkkinoiden tutkimusta ja ennustamista S&P Global Energyllä. Laadi hyödykemalleja, taselaskelmia ja raportteja, jotka tarjoavat asiakkaille hyödyllisiä näkemyksiä markkinoista.

Avaa