LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
LinkedIn
Job i virksomheden

AI-sikkerhedsekspert – engelsk og marathi (fjernarbejde)

Mercor søger AI-sikkerhedseksperter, der taler engelsk og marathi, til at udføre red team-test af samtalemodeller og agenter. Arbejdet indebærer at identificere sårbarheder, evaluere følsomme output og skabe reproducerbare sikkerhedsdata for AI-laboratorier og kunder.

USUSA
16 $ – 22 $ / time
FjernarbejdeKontraktMellemniveauSeniorPåkrævet Sprog: engelskPåkrævet Sprog: marathiKunstig intelligens
Cybersikkerhed

Beskrivelse

  • Udfør red team-test af samtalebaserede AI-modeller og agenter ved hjælp af jailbreaks, promptinjektioner, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder
  • Skab data til menneskelig evaluering ved at annotere fejl, kategorisere sårbarheder og identificere systemiske risici
  • Brug etablerede taksonomier, benchmarktests og playbooks til at understøtte ensartede evalueringer
  • Udarbejd reproducerbare rapporter, datasæt og angrebseksempler for kunder
  • Vurder AI-output relateret til bias, misinformation, skadelig adfærd og andre følsomme emner
  • Identificer sårbarheder, som automatiserede tests muligvis overser
  • Udvid evalueringsdækningen for at hjælpe med at minimere uventede problemer i produktionen
  • Hjælp kunder med at forbedre sikkerheden, robustheden og pålideligheden af deres AI-systemer

Krav

  • Modersmålsniveau i både engelsk og marathi
  • Stærk dømmekraft ved evaluering af sprog og indhold, herunder om AI-svar er korrekte, fuldstændige og passende
  • Evne til at opdage subtile fejl, uoverensstemmelser og udeladelser
  • Evne til konsekvent at følge retningslinjer og kvalitetsstandarder
  • Evne til at kommunikere ræsonnementer klart til tekniske og ikke-tekniske målgrupper
  • Tilpasningsevne på tværs af forskellige projekter, opgavetyper og kunder
  • Evne til at arbejde som selvstændig kontrahent
  • Må ikke have behov for H-1B- eller STEM OPT-støtte
  • Foretrækkes: erfaring med adversarial machine learning med jailbreak-datasæt, promptinjektioner, RLHF- eller DPO-angreb eller modeludtræk
  • Foretrækkes: erfaring med cybersikkerhed inden for penetrationstest, exploitudvikling eller reverse engineering
  • Foretrækkes: erfaring med sociotekniske risici inden for sondering af chikane eller desinformation, misbrugsanalyse eller test af samtalebaseret AI
  • Foretrækkes: erfaring med psykologi, skuespil eller skrivning, der understøtter ukonventionel adversarial tænkning

Fordele

  • Fuldt fjernarbejde, der kan udføres efter din egen tidsplan
  • Ugentlige betalinger via Stripe eller Wise
  • Mulighed for at deltage i projekter med højere følsomhedsniveau
  • Tydelige retningslinjer og trivselsressourcer til arbejde med følsomt indhold
  • Konkurrencedygtig betaling
  • Mulighed for at samarbejde med førende forskere
  • Henvisningsbetalinger på op til 90 USD pr. godkendt henvisning, med forbehold for begrænsninger

Relaterede job