Mercor
Mercor
51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.

AI-sikkerhetstester

Mercor søker en AI-sikkerhetstester som undersøker avanserte modeller for jailbreaks, hallusinasjoner og brudd på retningslinjer. Selskapet samarbeider med AI-laboratorier for å trene og forbedre AI-systemer.

Beskrivelse

  • Lag adversarielle promptar for å teste avanserte AI-modeller.
  • Finn jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer.
  • Vurder modellenes robusthet innen desinformasjon, cybersikkerhet, biosikkerhet, svindel, politisk innhold og andre sensitive områder.
  • Dokumenter sårbarheter og bidra til sikkerhetsreferanser og rapporter fra red teaming.
  • Samarbeid med AI-forskere for å styrke modellenes tilpasning, robusthet og sikkerhet.
  • Gjennomfør prosjekter som selvstendig oppdragstaker ut fra prosjektbehov og prestasjoner.

Krav

  • Bachelorgrad eller høyere innen informatikk, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde.
  • Minst fem års yrkeserfaring innen AI-sikkerhet, red teaming av AI, tillit og sikkerhet, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet fagområde.
  • Sterke analytiske evner og gode ferdigheter innen promptutforming og skriftlig kommunikasjon.
  • Erfaring med å lage adversarielle promptar eller evaluere avanserte AI-systemer.
  • En fordel: erfaring med red teaming av AI, RLHF, SFT, AI-tilpasning eller tillit og sikkerhet.
  • En fordel: kjennskap til jailbreak-testing, prompt engineering eller adversarielle evalueringsmetoder.
  • En fordel: ekspertise innen ett eller flere sensitive områder, blant annet cybersikkerhet, biosikkerhet, politisk innhold, desinformasjon eller vitenskapelig sikkerhet.
  • Du må kunne arbeide som selvstendig oppdragstaker.
  • Kandidater med H-1B og STEM OPT støttes ikke.

Fordeler

  • Fullt fjernarbeid.
  • Du bestemmer selv arbeidstiden din.
  • Ukentlige utbetalinger via Stripe eller Wise for utført arbeid.
  • Arbeid sammen med ledende AI-forskere og sikkerhetsteam.
  • Bidra til sikkerhet og tilpasning av avansert AI.
  • Henvisningsbetaling på opptil 340 USD per vellykket henvisning, med forbehold om begrensninger.
  • Rimelig tilrettelegging tilbys på forespørsel.

Relaterte jobber