Mercor
Mercor
51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.

Red teamer for AI-sikkerhet – fjernarbeid i USA

Mercor søker en AI-sikkerhetsred teamer på avstand som skal utfordre banebrytende AI-modeller og avdekke sårbarheter innen høyrisikoområder. Kontraktrollen støtter AI-laboratorier som utvikler og forbedrer avanserte systemer.

Beskrivelse

  • Lage adversarielle prompter for å undersøke banebrytende AI-modeller
  • Oppdage jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer
  • Vurdere modellenes motstandsdyktighet mot desinformasjon, cybertrusler, biosikkerhetsrisiko, svindel, politisk innhold og andre sensitive temaer
  • Dokumentere oppdagede sårbarheter og bidra til sikkerhetsbenchmarks og red-team-rapporter
  • Samarbeide med AI-forskere for å styrke modelltilpasning, robusthet og sikkerhet
  • Bidra til prosjekter som trener og forbedrer AI-systemer

Krav

  • Bachelorgrad eller høyere innen informatikk, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet område
  • Minst fem års yrkeserfaring innen AI-sikkerhet, AI-red teaming, tillit og sikkerhet, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet område
  • Sterk analytisk dømmekraft, evne til å utforme prompter og gode skriftlige kommunikasjonsevner
  • Erfaring med å lage adversarielle prompter eller vurdere banebrytende AI-systemer
  • Erfaring med AI-red teaming, RLHF, SFT, AI-tilpasning eller tillit og sikkerhet er en fordel
  • Kjennskap til jailbreak-testing, prompt engineering eller adversarielle evalueringsmetoder er en fordel
  • Ekspertise innen minst ett gråsoneområde, som cybersikkerhet, biosikkerhet, politisk innhold, desinformasjon eller vitenskapelig sikkerhet, er en fordel
  • Evne til å arbeide som selvstendig oppdragstaker
  • H-1B- og STEM OPT-kandidater støttes ikke

Fordeler

  • Fullt fjernarbeid
  • Fleksibel og selvstyrt arbeidstid
  • Ukentlige utbetalinger via Stripe eller Wise
  • Prosjekter kan forlenges, forkortes eller avsluttes før tiden avhengig av virksomhetens behov og arbeidsinnsats
  • Konkurransedyktig godtgjørelse
  • Samarbeid med ledende AI-forskere og sikkerhetsteam
  • Rimelig tilrettelegging er tilgjengelig på forespørsel
  • Henvisningsbetalinger på opptil 340 USD per vellykket henvisning, med forbehold om gjeldende begrensninger

Relaterte jobber

New Engen

Senior accountstrateg, digital markedsføring (fjernarbeid i USA)

New Engen
201 – 500 Ansatte
B2BMarkedsføringMedier

Støtt kundekontoene til New Engen ved å koordinere kampanjeforløp, kreative tester, resultatinnsikt, rapportering og leveranser. I denne fjernrollen i USA samarbeider du med konto- og kreative team for å holde prosjekter på rett spor og forbedre kampanjeresultatene.

Åpne