51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert – engelsk og assamesisk | Mercor fjernkontrakt
Gjennomfør adversarial testing av banebrytende AI-modeller for å avdekke jailbreaks, skjevhet, misbruk og andre sikkerhetsrisikoer. Lag annoteringer av menneskedata, sårbarhetsklassifiseringer og reproduserbare bevis på angrep for Mercors kunder.
Beskrivelse
- Gjennomfør adversarial testing av konversasjonsbaserte AI-modeller og agenter for jailbreaks, promptinjeksjon, misbruk, utnyttelse av skjevhet og manipulasjon over flere samtaletrinn
- Lag annoteringer av menneskedata, klassifiser feil og identifiser systemiske risikoer
- Bruk etablerte taksonomier, referansetester og veiledninger for å standardisere evalueringer
- Lever reproduserbare rapporter, datasett og angrepstilfeller til kunder
- Vurder AI-svar som omhandler skjevhet, desinformasjon, skadelig atferd og andre sensitive temaer
- Finn svakheter som automatisert testing ikke oppdager
- Utvide evalueringsdekningen for å bidra til å forebygge uventede problemer i produksjon
- Forbedre kundenes AI-systemer gjennom strukturert adversarial testing
Krav
- Morsmålsnivå i engelsk og assamesisk
- God dømmekraft ved vurdering av språk og innhold når det gjelder nøyaktighet, fullstendighet og egnethet
- Evne til å oppdage subtile feil, uoverensstemmelser og utelatelser
- Konsekvent overholdelse av retningslinjer og kvalitetsstandarder
- Tydelig kommunikasjon av resonnementer til både tekniske og ikke-tekniske målgrupper
- Fleksibilitet på tvers av prosjekter, oppgaveformater og kundebehov
- Foretrukket: erfaring med adversarial maskinlæring med jailbreak-datasett, promptinjeksjon, RLHF- eller DPO-angrep eller modellekstraksjon
- Foretrukket: erfaring med cybersikkerhet innen penetrasjonstesting, exploitutvikling eller reverse engineering
- Foretrukket: erfaring med sosioteknisk risiko innen sondering av trakassering eller desinformasjon, misbruksanalyse eller testing av konversasjonsbasert AI
- Foretrukket: erfaring med psykologi, skuespill eller skriving som støtter ukonvensjonell adversarial tenkning
- Må arbeide som selvstendig oppdragstaker
- H-1B- og STEM OPT-kandidater støttes ikke
Fordeler
- Arbeid helt eksternt
- Velg din egen arbeidstid
- Motta ukentlige betalinger gjennom Stripe eller Wise
- Bygg praktisk erfaring med menneskedatadrevet AI-red teaming
- Bidra til å gjøre AI-systemer mer robuste, sikre og pålitelige
- Arbeid med ledende forskere
- Rimelige tilpasninger er tilgjengelige på forespørsel
- Tjen opptil 90 USD i henvisningsbetaling for vellykkede henvisninger