51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
AI-sikkerhedsekspert (engelsk og kannada) – fjernkontrakt i USA
Mercor søger en AI-red teaming-specialist, der behersker engelsk og kannada, til at teste banebrydende modeller for sårbarheder. Arbejdet omfatter at skabe reproducerbare angrebseksempler, evalueringsdatasæt og risikorapporter til AI-træningsprojekter baseret på menneskelige data.
Beskrivelse
- Test konversationsbaserede AI-modeller og agenter med jailbreaks, promptinjektioner, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder
- Opret annoteringer af menneskelige data ved at dokumentere fejl, kategorisere sårbarheder og identificere systemiske risici
- Brug etablerede taksonomier, benchmarks og playbooks for at sikre ensartede evalueringer
- Udarbejd reproducerbare kunderapporter, datasæt og angrebseksempler
- Vurder AI-svar om følsomme emner, herunder bias, misinformation og skadelig adfærd
- Undersøg AI-systemer for svagheder, som automatiserede tests kan overse
- Udvid evalueringsdækningen for at bidrage til at begrænse uventede problemer i produktionen
- Understøt træningen og forbedringen af banebrydende modeller til Mercors AI-laboratorium og virksomhedskunder
Krav
- Engelsk og kannada på modersmålsniveau
- God dømmekraft ved vurdering af, om AI-svar er korrekte, fuldstændige og passende
- Gode kommunikationsevner til at forklare ræsonnementer for tekniske og ikke-tekniske målgrupper
- Stor opmærksomhed på subtile fejl, uoverensstemmelser og udeladelser
- Evne til konsekvent at anvende taksonomier, benchmarks, playbooks, retningslinjer og kvalitetsstandarder
- Fleksibilitet til at arbejde på tværs af forskellige projekter, opgaveformater og kunder
- Evne til at arbejde som selvstændig kontrahent
- Må ikke have behov for H-1B- eller STEM OPT-sponsorering; disse sponsoreringsmuligheder understøttes ikke
- Relevant erfaring med adversarial machine learning, cybersikkerhed, socioteknisk risiko, test af konversationsbaseret AI, psykologi, skuespil eller ukonventionel adversarial skrivning er en fordel
Fordele
- Arbejd fuldt ud på afstand med fleksibilitet til selv at tilrettelægge din arbejdstid
- Modtag ugentlige betalinger via Stripe eller Wise for leverede tjenester
- Vælg, om du vil deltage i projekter med indhold af højere følsomhed
- Få tydelig vejledning og trivselsressourcer til opgaver med følsomt indhold
- Modtag konkurrencedygtig betaling
- Opbyg praktisk erfaring med menneskedatadrevet AI-red teaming
- Samarbejd med førende forskere
- Anmod om rimelige tilpasninger efter behov
- Optjen henvisningsbetalinger på op til 90 USD for hver vellykket henvisning