51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Red team-spesialist innen AI-sikkerhet
Stresstest Mercors partnerlaboratoriers avanserte AI-systemer ved å undersøke sårbarheter på høyrisikoområder. Bidra med funn til sikkerhetsreferanser, og hjelp forskere med å forbedre modellenes robusthet og tilpasning.
Beskrivelse
- Lag adversarielle prompter for å teste avanserte AI-modeller.
- Finn jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer.
- Vurder modellenes robusthet på følsomme områder som feilinformasjon, cybersikkerhet, biosikkerhet, svindel og politisk innhold.
- Dokumenter sårbarheter, og bidra til sikkerhetsreferanser og red team-rapporter.
- Samarbeid med AI-forskere for å styrke modellenes tilpasning, robusthet og sikkerhet.
- Bidra i prosjekter som trener og forbedrer AI-systemer.
- Planlegg din egen arbeidstid. Prosjektets varighet kan endres eller avsluttes tidligere ut fra virksomhetens behov og arbeidsprestasjoner.
Krav
- Bachelorgrad eller høyere innen informatikk, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde.
- Minst fem års yrkeserfaring innen AI-sikkerhet, red teaming av AI, tillit og sikkerhet, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet område.
- Sterke analytiske evner og gode ferdigheter innen promptutforming og skriftlig kommunikasjon.
- Erfaring med å lage adversarielle prompter eller evaluere avanserte AI-systemer.
- En fordel: erfaring med red teaming av AI, RLHF, SFT, AI-tilpasning eller tillit og sikkerhet.
- En fordel: kjennskap til jailbreak-testing, prompt engineering eller metoder for adversariell evaluering.
- En fordel: ekspertise på ett eller flere følsomme områder, blant annet cybersikkerhet, biosikkerhet, politisk innhold, feilinformasjon eller vitenskapelig sikkerhet.
- Oppdraget utføres som selvstendig oppdragstaker.
- Du må kunne arbeide uten støtte til H-1B eller STEM OPT.
Fordeler
- Heldigitalt fjernarbeid med fleksibel arbeidstid.
- Ukentlige utbetalinger via Stripe eller Wise for utført arbeid.
- Jobb sammen med ledende AI-forskere og sikkerhetsteam.
- Bidra til å forme hvordan AI-systemer håndterer komplekse sikkerhetsutfordringer i den virkelige verden.
- Konkurransedyktig lønn.
- Rimelig tilrettelegging tilbys på forespørsel.
- Henvisningsbetaling på opptil 340 for hver vellykkede henvisning, med forbehold om begrensninger.