51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Ekstern AI-sikkerhetsekspert – engelsk og assamesisk (kontrakt)
Mercor søker en ekstern AI-sikkerhetsekspert på kontrakt som behersker engelsk og assamesisk flytende, for å redteame banebrytende modeller, evaluere sårbarheter og lage menneskeskapt kvalitetsdata for AI-sikkerhetsprosjekter.
Beskrivelse
- Redteam samtalebaserte AI-modeller og agenter ved hjelp av jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av skjevheter og flerrundersmanipulering
- Lag menneskemerkede data ved å annotere feil, kategorisere sårbarheter og identifisere systemiske risikoer
- Bruk taksonomier, referansetester og playbooks for å sikre ensartede evalueringer
- Utvikle reproduserbare rapporter, datasett og angrepseksempler for kunder
- Vurder AI-resultater som omhandler sensitive temaer, inkludert skjevheter, feilinformasjon og skadelig atferd
- Identifiser sårbarheter som automatiserte tester ikke oppdager
- Utvid evalueringsdekningen for å bidra til å minimere uventede problemer i produksjon
- Bidra til prosjekter som trener og forbedrer banebrytende AI-systemer
Krav
- Flytende språkferdigheter på morsmålsnivå i både engelsk og assamesisk
- God dømmekraft ved vurdering av språk- og innholdskvalitet
- Evne til å avgjøre om AI-svar er nøyaktige, fullstendige og passende
- Evne til å kommunisere resonnement tydelig til tekniske og ikke-tekniske målgrupper
- Svært god oppmerksomhet på nyanserte feil, uoverensstemmelser og utelatelser
- Evne til å anvende retningslinjer, taksonomier, referansetester, playbooks og kvalitetsstandarder konsekvent
- Fleksibilitet til å arbeide på tvers av prosjekter, oppgaveformater og kundebehov
- Må arbeide som selvstendig oppdragstaker
- H-1B- og STEM OPT-kandidater kan ikke støttes på nåværende tidspunkt
- Foretrukne ekspertiseområder omfatter adversarial maskinlæring, cybersikkerhet, sosioteknisk risiko, evaluering av samtalebasert AI, psykologi, skuespill og skriving
Fordeler
- Arbeid helt eksternt
- Sett opp en timeplan som passer deg
- Motta ukentlige betalinger via Stripe eller Wise
- Bygg praktisk erfaring med menneskedatadrevet AI-redteaming
- Bidra til å gjøre AI-systemer mer robuste, sikre og pålitelige
- Samarbeid med ledende AI-forskere
- Rimelige tilpasninger er tilgjengelige på forespørsel
- Tjen opptil 90 USD i henvisningsbetaling per vellykkede henvisning, med forbehold om gjeldende begrensninger