51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert på fjernarbeid (engelsk og tamil)
Mercor søker en AI-sikkerhetskonsulent som behersker engelsk og tamil, for å redteame samtalemodeller og agenter. Arbeidet fokuserer på jailbreak-testing, sårbarhetsanalyse, gjennomgang av skadelig atferd og strukturert produksjon av menneskeskapte data for utvikling av avansert AI.
Beskrivelse
- Test samtalemodeller og agenter ved hjelp av jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av bias og manipulasjon over flere samtaler
- Lag menneskeskapte datasett ved å annotere feil, kategorisere sårbarheter og identifisere systemiske risikoer
- Bruk etablerte taksonomier, referansetester og playbooks for å opprettholde konsistente evalueringer
- Utvikle reproduserbare rapporter, datasett og angrepstilfeller
- Vurder AI-utdata om sensitive temaer, inkludert bias, desinformasjon og skadelig atferd
- Utvid evalueringsdekningen for å identifisere svakheter som automatiserte tester kan overse
- Støtt Mercors AI-laboratorium og bedriftskunder med å trene og forbedre avanserte AI-systemer
Krav
- Engelsk- og tamilkunnskaper på morsmålsnivå eller flytende nivå
- God dømmekraft ved vurdering av språk og innhold, inkludert om AI-svar er korrekte, fullstendige og passende
- Evne til å oppdage subtile feil, uoverensstemmelser og utelatelser
- Konsekvent overholdelse av retningslinjer, taksonomier, referansetester, playbooks og kvalitetsstandarder
- Tydelig kommunikasjon av resonnement til både tekniske og ikke-tekniske målgrupper
- Fleksibilitet på tvers av ulike prosjekter, oppgaveformater og kunder
- Evne til å arbeide som selvstendig konsulent
- H1-B- og STEM OPT-kandidater kan ikke støttes på nåværende tidspunkt
- Erfaring med adversarial maskinlæring, cybersikkerhet, sosio-teknisk risiko eller kreativ sondering er en fordel
Fordeler
- Arbeid helt eksternt
- Velg en fleksibel timeplan og arbeid på tidspunkter som passer deg
- Motta ukentlige betalinger via Stripe eller Wise
- Konkurransedyktig godtgjørelse
- Få tilgang til velværeressurser og tydelig veiledning for prosjekter med høyere sensitivitet
- Prosjektets varighet kan endres eller avsluttes tidligere avhengig av forretningsbehov og prestasjon
- Tjen opptil 90 USD i henvisningsbetaling for hver vellykkede henvisning