51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
AI-sikkerhedsekspert – engelsk og assamesisk | Mercor-fjernkontrakt
Udfør adversarial testning af banebrydende AI-modeller for jailbreaks, bias, misbrug og andre sikkerhedsrisici. Opret annoteringer af menneskelige data, sårbarhedsklassifikationer og reproducerbar dokumentation af angreb for Mercors kunder.
Beskrivelse
- Udfør adversarial testning af konversationsbaserede AI-modeller og agenter for jailbreaks, promptinjektion, misbrug, udnyttelse af bias og manipulation over flere samtalerunder
- Opret annoteringer af menneskelige data, klassificer fejl og identificer systemiske risici
- Brug etablerede taksonomier, benchmarks og playbooks til at standardisere evalueringer
- Lever reproducerbare rapporter, datasæt og angrebseksempler til kunder
- Vurder AI-svar om bias, misinformation, skadelig adfærd og andre følsomme emner
- Find svagheder, som automatiseret testning ikke opdager
- Udvid evalueringsdækningen for at bidrage til at forebygge uventede problemer i produktionen
- Forbedr kundernes AI-systemer gennem struktureret adversarial testning
Krav
- Modersmålsniveau i engelsk og assamesisk
- God dømmekraft ved vurdering af sprog og indhold med hensyn til nøjagtighed, fuldstændighed og egnethed
- Evne til at opdage subtile fejl, uoverensstemmelser og udeladelser
- Konsekvent overholdelse af retningslinjer og kvalitetsstandarder
- Klar kommunikation af ræsonnementer til både tekniske og ikke-tekniske målgrupper
- Fleksibilitet på tværs af projekter, opgaveformater og kundebehov
- Foretrækkes: erfaring med adversarial maskinlæring, herunder jailbreak-datasæt, promptinjektion, RLHF- eller DPO-angreb eller modeludtræk
- Foretrækkes: erfaring med cybersikkerhed inden for penetrationstest, exploitudvikling eller reverse engineering
- Foretrækkes: erfaring med sociotekniske risici inden for sondering af chikane eller misinformation, misbrugsanalyse eller testning af konversationsbaseret AI
- Foretrækkes: erfaring med psykologi, skuespil eller skrivning, der understøtter ukonventionel adversarial tænkning
- Skal arbejde som selvstændig kontraktør
- H-1B- og STEM OPT-kandidater understøttes ikke
Fordele
- Arbejd fuldt ud hjemmefra
- Vælg selv din arbejdstid
- Modtag ugentlige betalinger via Stripe eller Wise
- Opbyg praktisk erfaring med menneskedatadrevet AI-red teaming
- Bidrag til at gøre AI-systemer mere robuste, sikre og pålidelige
- Arbejd sammen med førende forskere
- Rimelige tilpasninger er tilgængelige efter anmodning
- Tjen henvisningsbetalinger på op til 90 USD for vellykkede henvisninger