51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Ekspert på red teaming av AI-sikkerhet – engelsk og tamil, fjernoppdrag
Test samtalebaserte AI-modeller og agenter for sårbarheter gjennom kontradiktorisk utprøving og strukturert red-team-analyse. Lag angrepstilfeller, sårbarhetsdata og reproduserbare rapporter for Mercors AI-labkunder.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter ved hjelp av jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av skjevhet og manipulasjon over flere samtalerunder
- Lag menneskemerkede data ved å dokumentere feil, kategorisere sårbarheter og identifisere systemiske risikoer
- Bruk etablerte taksonomier, referansetester og spillebøker for å opprettholde konsekvente evalueringer
- Utvikle reproduserbare rapporter, datasett og angrepstilfeller for kunder
- Vurder AI-utdata som omhandler skjevhet, feilinformasjon, skadelig atferd og andre sensitive temaer
- Identifiser svakheter som automatisert testing kan overse
- Utvid evalueringsdekningen og bidra til å forebygge uventede problemer i produksjon
- Forbedre kundenes AI-systemer og bidra til sikrere og mer pålitelige modeller
Krav
- Flytende språkferdigheter på morsmålsnivå i både engelsk og tamil
- God dømmekraft ved vurdering av språk og innhold
- Evne til å avgjøre om AI-svar er korrekte, fullstendige og passende, og til å forklare vurderingen
- Nøyaktig oppmerksomhet på subtile feil, inkonsekvenser og utelatelser
- Evne til å anvende retningslinjer og kvalitetsstandarder konsekvent
- Tydelig kommunikasjon av resonnement til tekniske og ikke-tekniske målgrupper
- Fleksibilitet på tvers av prosjekter, oppgaveformater og kunder
- Foretrukket: erfaring med adversarial maskinlæring med jailbreak-datasett, promptinjeksjon, RLHF- eller DPO-angrep eller modellekstraksjon
- Foretrukket: bakgrunn innen cybersikkerhet med penetrasjonstesting, exploitutvikling eller reverse engineering
- Foretrukket: erfaring med sosio-tekniske risikoer som testing av trakassering og desinformasjon, misbruksanalyse eller testing av samtalebasert AI
- Foretrukket: erfaring med kreativ utprøving innen psykologi, skuespill eller skriving
- Må arbeide som selvstendig oppdragstaker
- Kandidater med H-1B og STEM OPT støttes ikke
Fordeler
- Fullt fjernarbeid
- Fleksibel arbeidstid med mulighet til å bestemme egne arbeidstider
- Ukentlige utbetalinger via Stripe eller Wise
- Konkurransedyktig timelønn
- Mulighet til å få erfaring med menneskedatadrevet red teaming av AI med fokus på frontier-sikkerhet
- Direkte bidrag til mer robuste, sikre og pålitelige AI-systemer
- Mulighet til å delta i prosjekter med høyere sensitivitet
- Retningslinjer og ressurser for velvære i prosjekter som involverer sensitivt innhold
- Rimelige tilpasninger er tilgjengelige på forespørsel
- Henvisningsprogram med opptil 90 USD per godkjent henvisning, underlagt henvisningsgrenser