51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert innen red teaming (engelsk og telugu) – fjernkontrakt
Test samtalebaserte AI-modeller for jailbreaks, promptinjeksjon, misbruk, skjevhet og andre sikkerhetsfeil. Dokumenter reproduserbare sårbarheter og evalueringsdata for AI-forskningskunder.
Beskrivelse
- Utfør adversarial testing av samtalebaserte AI-modeller og agenter for jailbreaks, promptinjeksjon, misbruk, utnyttelse av skjevhet og manipulering over flere samtalerunder
- Annoter testfeil, kategoriser sårbarheter og identifiser systemiske risikoer
- Bruk etablerte taksonomier, referansetester og playbooks for å opprettholde konsekvente evalueringer
- Opprett reproduserbare rapporter, datasett og angrepsscenarioer for kunder
- Vurder AI-svar om sensitive emner, inkludert skjevhet, feilinformasjon og skadelig atferd
- Finn svakheter som automatiserte evalueringsmetoder ikke oppdager
- Utvide evalueringsdekningen for å bidra til å forebygge uventede problemer i produksjon
- Forbedre kundenes AI-systemer gjennom gjentatt adversarial testing
Krav
- Morsmålsnivå i både engelsk og telugu
- God dømmekraft ved vurdering av språk og innhold med hensyn til nøyaktighet, fullstendighet og egnethet
- Evne til å kommunisere resonnement tydelig til tekniske og ikke-tekniske målgrupper
- Nøyaktig oppmerksomhet på subtile feil, inkonsekvenser og utelatelser
- Evne til å følge retningslinjer og kvalitetsstandarder konsekvent
- Fleksibilitet på tvers av prosjekter, oppgaveformater og kunder
- Engasjement som selvstendig oppdragstaker
- Evne til å arbeide uten å bruke konfidensiell eller proprietær informasjon fra noen arbeidsgiver, kunde eller institusjon
- H-1B- og STEM OPT-kandidater støttes ikke
Fordeler
- Fullt fjernarbeid som kan utføres etter en selvstyrt arbeidsplan
- Ukentlige betalinger via Stripe eller Wise for leverte tjenester
- Mulighet til å delta i prosjekter som omfatter mer sensitive emner
- Retningslinjer og ressurser for velvære ved arbeid med sensitivt innhold
- Erfaring med å bygge ekspertise innen AI-red teaming basert på menneskedata
- Mulighet til å bidra til å gjøre AI-systemer sikrere, mer robuste og mer pålitelige
- Muligheter for samarbeid med ledende forskere
- Henvisningsbetalinger på opptil 90 USD per vellykket henvisning, med forbehold om gjeldende begrensninger