Mercor
Mercor
51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.

Red team-spesialist innen AI-sikkerhet

Mercor søker en AI-sikkerhetsspesialist som tester avanserte modeller med adversarielle prompter. Arbeidet handler om å avdekke svakheter og hjelpe AI-laboratorier med å forbedre modellenes tilpasning, robusthet og sikkerhet.

Beskrivelse

  • Lag adversarielle prompter for å teste avanserte AI-modeller.
  • Finn jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer.
  • Vurder modellenes robusthet på sensitive områder som feilinformasjon, cybersikkerhet, biosikkerhet, svindel og politisk innhold.
  • Dokumenter sårbarheter og bidra til sikkerhetsreferanser og rapporter fra red team-testing.
  • Samarbeid med AI-forskere for å styrke modellenes tilpasning, robusthet og sikkerhet.
  • Bidra til prosjekter som trener og forbedrer AI-systemer.

Krav

  • Bachelorgrad eller høyere innen informatikk, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde.
  • Minst fem års yrkeserfaring innen AI-sikkerhet, red teaming av AI, tillit og sikkerhet, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet område.
  • Sterke analytiske evner samt gode ferdigheter innen promptutforming og skriftlig kommunikasjon.
  • Erfaring med å lage adversarielle prompter eller vurdere avanserte AI-systemer.
  • Erfaring med red teaming av AI, RLHF, SFT, AI-tilpasning eller tillit og sikkerhet er en fordel.
  • Kjennskap til jailbreak-testing, prompt engineering eller metoder for adversariell evaluering er en fordel.
  • Ekspertise på nyanserte områder som cybersikkerhet, biosikkerhet, politisk innhold, feilinformasjon eller vitenskapelig sikkerhet er en fordel.
  • Evne til å arbeide som selvstendig oppdragstaker.
  • H-1B- og STEM OPT-kandidater støttes ikke.

Fordeler

  • Jobb eksternt fra hvor som helst i USA.
  • Bestem din egen arbeidsplan.
  • Motta ukentlige utbetalinger via Stripe eller Wise.
  • Prosjekter kan forlenges, forkortes eller avsluttes før tiden ut fra prosjektbehov og prestasjoner.
  • Jobb med ledende AI-forskere og sikkerhetsteam.
  • Bidra til å forme sikkerheten i avanserte AI-systemer.
  • Rimelige tilpasninger er tilgjengelige på forespørsel.
  • Få henvisningsbetaling på opptil 340 USD per vellykket henvisning; begrensninger gjelder.

Relaterte jobber