51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
AI-sikkerhedsekspert, engelsk og nederlandsk (fjernkontrakt)
Mercor søger AI-sikkerhedseksperter, der taler engelsk og nederlandsk, til at red-teame samtalemodeller og agenter. Arbejdet omfatter at skabe sårbarhedsdata, angrebsscenarier og reproducerbare sikkerhedsrapporter til udvikling af avanceret AI.
Beskrivelse
- Test samtalebaserede AI-modeller og agenter ved hjælp af jailbreaks, promptinjektion, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder
- Skab menneskegenererede data ved at annotere fejl, klassificere sårbarheder og identificere systemiske risici
- Brug taksonomier, benchmarks og playbooks til at understøtte ensartet sikkerhedstest
- Udarbejd reproducerbare rapporter, datasæt og angrebssager for kunder
- Find sårbarheder, som automatiserede tests kan overse
- Udvid evalueringsdækningen for at bidrage til at reducere uventede produktionsrisici
- Arbejd sammen med førende forskere om at træne og forbedre avancerede AI-systemer
Krav
- Flydende engelsk og nederlandsk på modersmålsniveau
- Tidligere erfaring med AI-red teaming, offensivt cybersikkerhedsarbejde eller socioteknisk probing
- Evne til at teste AI-systemer offensivt og drive dem mod fejltilstande
- Erfaring med at anvende frameworks eller benchmarks til struktureret testning
- Evne til at kommunikere risici klart til både tekniske og ikke-tekniske målgrupper
- Evne til at tilpasse sig forskellige projekter og kunder
- Erfaring med adversarial machine learning, herunder jailbreak-datasæt, promptinjektion, RLHF-/DPO-angreb eller modeludtrækning er en fordel
- Cybersikkerhedserfaring med penetrationstest, exploitudvikling eller reverse engineering er en fordel
- Erfaring med sociotekniske risici, herunder probing af chikane eller desinformation, misbrugsanalyse eller testning af samtalebaseret AI er en fordel
- Erfaring med kreativ probing inden for psykologi, skuespil eller skrivning er en fordel
- Du skal kunne arbejde som selvstændig kontraktør
- H-1B- og STEM OPT-kandidater understøttes ikke
Fordele
- Fuldt fjernarbejde
- Fleksibel planlægning med mulighed for selv at fastsætte dine arbejdstider
- Ugentlige betalinger via Stripe eller Wise baseret på leverede ydelser
- Projekter kan forlænges, forkortes eller afsluttes før tid afhængigt af virksomhedens behov og præstation
- Deltagelse i projekter med højere følsomhedsniveau er valgfri
- Der stilles indholdsretningslinjer og ressourcer til trivsel til rådighed
- Rimelige tilpasninger er tilgængelige efter anmodning
- Konkurrencedygtig timeløn
- Mulighed for op til 250 USD pr. vellykket henvisning, med forbehold for begrænsninger