51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert (engelsk og tamil) – fjernkontrakt
Mercor søker en AI-sikkerhetsekspert som behersker engelsk og tamil, til å gjennomføre red teaming av samtalemodeller og AI-agenter. Kontraktsrollen fokuserer på å identifisere sårbarheter, generere evalueringsdata og utarbeide reproduserbare sikkerhetsrapporter.
Beskrivelse
- Gjennomfør adversarielle tester av samtalebaserte AI-modeller og AI-agenter ved hjelp av jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av bias og manipulasjon over flere samtalerunder.
- Lag menneskegenererte data ved å annotere feil, kategorisere sårbarheter og identifisere systemiske risikoer.
- Bruk etablerte taksonomier, benchmarker og playbooks for å opprettholde konsekvente evalueringer.
- Lever reproduserbare rapporter, datasett og angrepseksempler til kunder.
- Vurder AI-utdata som omhandler sensitive emner, inkludert bias, desinformasjon og skadelig atferd.
- Identifiser svakheter som automatiserte evalueringsmetoder kan overse.
- Utvide evalueringsdekningen for å bidra til å minimere uventede problemer i produksjon.
- Forbedre kundenes AI-systemer gjennom strukturert adversariell testing.
Krav
- Morsmålsnivå eller flytende engelskkunnskaper og tamilskunnskaper.
- God dømmekraft ved vurdering av språk og innhold.
- Evne til å avgjøre om AI-svar er korrekte, fullstendige og passende, og forklare vurderingen.
- Svært god oppmerksomhet på subtile feil, inkonsekvenser og utelatelser.
- Konsekvent etterlevelse av retningslinjer og kvalitetsstandarder.
- Evne til å kommunisere resonnement tydelig til både tekniske og ikke-tekniske målgrupper.
- Tilpasningsevne på tvers av prosjekter, oppgaveformater og kunder.
- Evne til å arbeide som selvstendig oppdragstaker.
- H1-B- og STEM OPT-kandidater støttes ikke.
- Foretrukket: erfaring med adversarial maskinlæring med jailbreak-datasett, promptinjeksjonsangrep, RLHF- eller DPO-angrep eller modelekstraksjon.
- Foretrukket: erfaring med cybersikkerhet innen penetrasjonstesting, exploitutvikling eller reverse engineering.
- Foretrukket: erfaring med sosioteknisk risiko knyttet til sondering av trakassering eller desinformasjon, misbruksanalyse eller testing av samtalebasert AI.
- Foretrukket: erfaring med kreativ sondering innen psykologi, skuespill eller skriving.
Fordeler
- Fullt fjernarbeid.
- Fleksibel arbeidstid med mulighet til å fastsette arbeidstimene selv.
- Ukentlige utbetalinger gjennom Stripe eller Wise.
- Mulighet til å delta frivillig i prosjekter med høyere sensitivitet.
- Tydelig veiledning og ressurser for trivsel ved arbeid med sensitivt innhold.
- Konkurransedyktig timelønn.
- Mulighet til å samarbeide med ledende forskere.
- Henvisningsbetalinger på opptil 90 USD per vellykket henvisning, med forbehold om gjeldende begrensninger.
- Rimelig tilrettelegging er tilgjengelig på forespørsel.