51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Ekspert i AI-sikkerhed og red teaming – engelsk og finsk, fjernarbejde i USA
Udfør adversarial testning af konversationsbaserede AI-modeller og agenter for Mercors AI-projekter med menneskedata. Skab reproducerbare sårbarhedsdata, der kan styrke avancerede AI-systemer.
Beskrivelse
- Test konversationsbaserede AI-modeller og agenter ved hjælp af jailbreaks, promptinjektioner, misbrugsscenarier, biasudnyttelse og manipulation over flere samtalerunder
- Dokumentér fejl, kategorisér sårbarheder og identificér systemiske risici
- Anvend etablerede taksonomier, benchmarks og playbooks for ensartede evalueringer
- Udarbejd reproducerbare rapporter, datasæt og angrebscases for kunder
- Identificér sårbarheder, som automatiserede tests kan overse
- Udvid evalueringsdækningen og bidrag til at reducere uventede problemer i produktionen
- Arbejd sammen med førende forskere på projekter, der træner og forbedrer AI-systemer
Krav
- Flydende eller modersmålsniveau i engelsk og finsk
- Tidligere erfaring med red teaming inden for adversarial AI-arbejde, cybersikkerhed eller socioteknisk afprøvning
- Evne til at teste AI-systemer adversarialt og presse dem mod fejlgrænser
- Erfaring med at anvende frameworks eller benchmarks til struktureret testning
- Evne til at kommunikere risici klart til både tekniske og ikke-tekniske målgrupper
- Tilpasningsevne på tværs af projekter og kundekrav
- Mulighed for at påtage sig et engagement som selvstændig kontraktør
- Må ikke være H-1B- eller STEM OPT-kandidat
- En fordel: erfaring med adversarial machine learning, herunder jailbreak-datasæt, promptinjektioner, RLHF/DPO-angreb eller modeludtræk
- En fordel: erfaring med cybersikkerhed inden for penetrationstest, exploitudvikling eller reverse engineering
- En fordel: erfaring med sociotekniske risici inden for afprøvning af chikane eller desinformation, misbrugsanalyse eller testning af konversationsbaseret AI
- En fordel: erfaring med psykologi, skuespil eller skrivning, der understøtter ukonventionel adversarial tænkning
Fordele
- Fuldt fjernbaseret arbejde
- Fleksibel planlægning
- Ugentlige betalinger via Stripe eller Wise
- Trivselsressourcer og klare retningslinjer for projekter med højere følsomhed
- Mulighed for at opnå erfaring med red teaming af AI med menneskedata
- Direkte mulighed for at bidrage til at gøre AI-systemer mere robuste, sikre og pålidelige
- Konkurrencedygtig betaling
- Henvisningsbonus på op til 250 USD for hver vellykket henvisning