51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Red team-tester for AI-modellsikkerhet
Undersøk Mercors avanserte AI-modeller med adversarial testing for å avdekke sikkerhetssvakheter. Finn sårbarheter og bidra til å forbedre modelltilpasningen.
Beskrivelse
- Lag adversarial-prompter for å undersøke avanserte AI-modeller.
- Finn jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer.
- Test modellenes robusthet innen desinformasjon, cybersikkerhet, biosikkerhet, svindel, politisk innhold og andre sensitive områder.
- Dokumenter sårbarheter og bidra til sikkerhetsbenchmarks og red teaming-rapporter.
- Samarbeid med AI-forskere for å styrke modellenes tilpasning, robusthet og sikkerhet.
- Bidra til å beskytte og forbedre neste generasjon avanserte AI-modeller.
- Bidra i prosjekter som trener og forbedrer AI-systemer.
Krav
- Bachelorgrad eller høyere innen datavitenskap, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde
- Minst fem års yrkeserfaring innen AI-sikkerhet, red teaming av AI, tillit og sikkerhet, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet område
- Sterke analytiske evner og gode ferdigheter innen promptdesign og skriftlig formidling
- Erfaring med å lage adversarial-prompter eller evaluere avanserte AI-systemer
- Erfaring med red teaming av AI, RLHF, veiledet finjustering, AI-tilpasning eller tillit og sikkerhet er en fordel
- Kjennskap til jailbreak-testing, prompt engineering eller metoder for adversarial evaluering er en fordel
- Ekspertise innen minst ett sensitivt område, som cybersikkerhet, biosikkerhet, politisk innhold, desinformasjon eller vitenskapelig sikkerhet, er en fordel
- Du må ikke ha behov for H-1B- eller STEM OPT-sponsing; Mercor kan ikke støtte kandidater som trenger noen av disse sponsingsformene
Fordeler
- Heldigitalt fjernarbeid med fleksibel arbeidstid
- Ukentlige utbetalinger via Stripe eller Wise for utført arbeid
- Prosjektets varighet kan endres eller avsluttes tidligere ut fra prosjektbehov og prestasjoner
- Jobb sammen med ledende AI-forskere og sikkerhetsteam
- Vær med på å forme hvordan AI-systemer håndterer komplekse sikkerhetsutfordringer fra virkeligheten
- Rimelig tilrettelegging er tilgjengelig på forespørsel
- Henvisningsbetaling på opptil 340 USD per vellykket henvisning, med forbehold om begrensninger