51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Red teamer for AI-sikkerhet – fjernoppdrag (USA)
Mercor søker en red teamer for AI-sikkerhet som skal avdekke sårbarheter i avanserte AI-modeller gjennom adversarial testing. Rollen innebærer å utforme prompter og vurdere høyrisikoatferd i modeller sammen med AI-sikkerhetsforskere.
Beskrivelse
- Utforme adversarial prompter for å utfordre avanserte AI-modeller
- Oppdage jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer
- Vurdere modellenes robusthet innen desinformasjon, cybersikkerhet, biosikkerhet, svindel, politisk innhold og andre sensitive områder
- Dokumentere sårbarheter og bidra til sikkerhetsbenchmarker og rapporter om red teaming
- Samarbeide med AI-forskere for å styrke modellenes tilpasning, robusthet og sikkerhet
- Bidra til prosjekter som trener og forbedrer AI-systemer
Krav
- Bachelorgrad eller høyere innen informatikk, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde
- Minst fem års yrkeserfaring innen AI-sikkerhet, AI-red teaming, trust and safety, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet område
- Sterke analytiske evner samt gode ferdigheter innen promptdesign og skriftlig kommunikasjon
- Erfaring med å lage adversarial prompter eller vurdere avanserte AI-systemer
- Erfaring med AI-red teaming, RLHF, SFT, AI-alignment eller trust and safety er en fordel
- Kjennskap til jailbreak-testing, prompt engineering eller metoder for adversarial evaluering er en fordel
- Ekspertise innen ett eller flere gråsoneområder som cybersikkerhet, biosikkerhet, politisk innhold, desinformasjon eller vitenskapelig sikkerhet er en fordel
- Evne til å arbeide som selvstendig oppdragstaker
- Kandidater med H-1B og STEM OPT støttes ikke
Fordeler
- Fullt fjernarbeid
- Fleksibel arbeidstid
- Ukentlige utbetalinger via Stripe eller Wise
- Prosjekter kan forlenges, forkortes eller avsluttes tidligere avhengig av virksomhetens behov og prestasjoner
- Adversarialt testarbeid sammen med ledende AI-forskere og sikkerhetsteam
- Mulighet til å påvirke hvordan AI-systemer håndterer komplekse sikkerhetsutfordringer i den virkelige verden
- Rimelig tilrettelegging er tilgjengelig på forespørsel
- Henvisningsbetalinger på opptil 340 USD per vellykket henvisning, med forbehold om henvisningsgrenser