51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert – engelsk og marathi (fjernarbeid)
Mercor søker AI-sikkerhetseksperter som snakker engelsk og marathi, til å gjennomføre red team-testing av samtalemodeller og agenter. Arbeidet innebærer å identifisere sårbarheter, evaluere sensitivt innhold og lage reproduserbare sikkerhetsdata for AI-laboratorier og kunder.
Beskrivelse
- Gjennomfør red team-testing av samtalebaserte AI-modeller og agenter ved hjelp av jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av skjevheter og manipulasjon over flere samtalerunder
- Lag data for menneskelig evaluering ved å annotere feil, kategorisere sårbarheter og identifisere systemiske risikoer
- Bruk etablerte taksonomier, benchmarktester og playbøker for å støtte konsekvente evalueringer
- Utvikle reproduserbare rapporter, datasett og angrepseksempler for kunder
- Vurder AI-resultater knyttet til skjevheter, feilinformasjon, skadelig atferd og andre sensitive temaer
- Identifiser sårbarheter som automatiserte tester kan overse
- Utvide evalueringsdekningen for å bidra til å minimere uventede problemer i produksjon
- Støtt kunder i å forbedre sikkerheten, robustheten og påliteligheten til AI-systemene sine
Krav
- Morsmålsflytende i både engelsk og marathi
- God dømmekraft ved evaluering av språk og innhold, inkludert om AI-svar er korrekte, fullstendige og hensiktsmessige
- Evne til å oppdage subtile feil, uoverensstemmelser og utelatelser
- Evne til å følge retningslinjer og kvalitetsstandarder konsekvent
- Evne til å kommunisere resonnementer tydelig til tekniske og ikke-tekniske målgrupper
- Tilpasningsevne på tvers av ulike prosjekter, oppgavetyper og kunder
- Evne til å arbeide som selvstendig oppdragstaker
- Må ikke ha behov for H-1B- eller STEM OPT-støtte
- Foretrukket: erfaring med adversarial maskinlæring med jailbreak-datasett, promptinjeksjoner, RLHF- eller DPO-angrep eller modellekstraksjon
- Foretrukket: erfaring med cybersikkerhet innen penetrasjonstesting, exploitutvikling eller reverse engineering
- Foretrukket: erfaring med sosioteknisk risiko innen sondering av trakassering eller desinformasjon, misbruksanalyse eller testing av samtalebasert AI
- Foretrukket: erfaring med psykologi, skuespill eller skriving som støtter ukonvensjonell adversarial tenkning
Fordeler
- Fullt fjernarbeid som kan utføres etter din egen tidsplan
- Ukentlige utbetalinger via Stripe eller Wise
- Mulighet til å delta i prosjekter med høyere sensitivitet
- Tydelige retningslinjer og ressurser for trivsel ved arbeid med sensitivt innhold
- Konkurransedyktig betaling
- Mulighet til å samarbeide med ledende forskere
- Henvisningsbetalinger på opptil 90 USD per godkjent henvisning, med forbehold om begrensninger