51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Red team-spesialist innen AI-sikkerhet
Mercor søker en red team-spesialist innen AI-sikkerhet som skal undersøke svakheter i avanserte AI-modeller på høyrisikoområder. Arbeidet støtter AI-laboratorier i å trene og forbedre avanserte systemer.
Beskrivelse
- Lag adversarielle prompt for å teste avanserte AI-modeller.
- Finn jailbreaks, utrygg atferd, hallusinasjoner og brudd på retningslinjer.
- Vurder modellenes robusthet innen desinformasjon, cybersikkerhet, biosikkerhet, svindel, politisk innhold og andre sensitive områder.
- Dokumenter sårbarheter og bidra til sikkerhetsbenchmark og red teaming-rapporter.
- Samarbeid med AI-forskere for å styrke modellenes alignment, robusthet og sikkerhet.
- Bidra til prosjekter som trener og forbedrer AI-systemer.
Krav
- Bachelorgrad eller høyere innen datavitenskap, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde.
- Minst fem års yrkeserfaring innen AI-sikkerhet, red teaming av AI, trust and safety, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet fagområde.
- Sterke analytiske evner, evne til å utforme prompt og gode skriftlige kommunikasjonsevner.
- Erfaring med å lage adversarielle prompt eller vurdere avanserte AI-systemer.
- Må være bosatt i ett av de oppførte landene: Albania, Østerrike, Belgia, Bulgaria, Bosnia-Hercegovina, Sveits, Tsjekkia, Tyskland, Danmark, Spania, Estland, Finland, Frankrike, Storbritannia, Hellas, Kroatia, Ungarn, Irland, Island, Italia, Liechtenstein, Litauen, Luxembourg, Latvia, Monaco, Moldova, Nord-Makedonia, Malta, Nederland, Norge, Polen, Portugal, Romania, San Marino, Serbia, Slovakia, Slovenia, Sverige, USA eller Kosovo.
- Kandidater med H-1B og STEM OPT kan ikke få støtte for øyeblikket.
Fordeler
- Helt fjernarbeid med fleksibel arbeidstid.
- Ukentlige utbetalinger via Stripe eller Wise for utført arbeid.
- Prosjektets varighet kan forlenges, forkortes eller avsluttes tidligere avhengig av prosjektbehov og prestasjoner.
- Konkurransedyktig lønn.
- Mulighet til å jobbe med ledende AI-forskere og sikkerhetsteam.
- Rimelig tilrettelegging tilbys på forespørsel.
- Henvisningsprogram med opptil 340 USD per vellykket henvisning, med forbehold om begrensninger.