51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Ekspert i red teaming af AI-sikkerhed – engelsk og tamil, fjernopgave
Test konversationsbaserede AI-modeller og agenter for sårbarheder gennem adversarial afprøvning og struktureret red-team-analyse. Opret angrebs cases, sårbarhedsdata og reproducerbare rapporter for Mercors AI-labkunder.
Beskrivelse
- Test konversationsbaserede AI-modeller og agenter ved hjælp af jailbreaks, promptinjektioner, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder
- Opret menneskemærkede data ved at dokumentere fejl, kategorisere sårbarheder og identificere systemiske risici
- Brug etablerede taksonomier, benchmarks og playbooks til at sikre ensartede evalueringer
- Udarbejd reproducerbare rapporter, datasæt og angrebscases for kunder
- Vurder AI-output, der omhandler bias, misinformation, skadelig adfærd og andre følsomme emner
- Identificer svagheder, som automatiserede tests kan overse
- Udvid evalueringsdækningen, og hjælp med at forebygge uventede problemer i produktionen
- Forbedr kundernes AI-systemer, og bidrag til sikrere og mere pålidelige modeller
Krav
- Modersmålsniveau i både engelsk og tamil
- God dømmekraft ved vurdering af sprog og indhold
- Evne til at afgøre, om AI-svar er korrekte, komplette og passende, samt forklare vurderingen
- Omhyggelig opmærksomhed på subtile fejl, uoverensstemmelser og udeladelser
- Evne til at anvende retningslinjer og kvalitetsstandarder konsekvent
- Klar kommunikation af ræsonnement til tekniske og ikke-tekniske målgrupper
- Fleksibilitet på tværs af projekter, opgaveformater og kunder
- Foretrukket: erfaring med adversarial machine learning med jailbreak-datasæt, promptinjektion, RLHF- eller DPO-angreb eller modeludtræk
- Foretrukket: baggrund inden for cybersikkerhed med penetrationstest, exploitudvikling eller reverse engineering
- Foretrukket: erfaring med sociotekniske risici såsom afprøvning af chikane og desinformation, misbrugsanalyse eller test af konversationsbaseret AI
- Foretrukket: erfaring med kreativ afprøvning inden for psykologi, skuespil eller skrivning
- Skal arbejde som selvstændig kontrahent
- Kandidater med H-1B og STEM OPT understøttes ikke
Fordele
- Fuldt fjernarbejde
- Fleksibel planlægning med mulighed for selv at fastsætte dine arbejdstider
- Ugentlige betalinger via Stripe eller Wise
- Konkurrencedygtig timeløn
- Mulighed for at få erfaring med menneskedatadrevet red teaming af AI med fokus på frontier-sikkerhed
- Direkte bidrag til mere robuste, sikre og pålidelige AI-systemer
- Mulighed for frivillig deltagelse i projekter med højere følsomhed
- Retningslinjer og trivselsressourcer til projekter, der involverer følsomt indhold
- Rimelige tilpasninger er tilgængelige efter anmodning
- Henvisningsprogram med op til 90 USD pr. godkendt henvisning, underlagt henvisningsgrænser