51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Red teamer inden for AI-sikkerhed – fjernkontrakt i USA
Mercor søger en kontraktansat red teamer inden for AI-sikkerhed til at udfordre avancerede AI-modeller og afdække sårbarheder. Rollen fokuserer på højrisikoområder og bidrager til udviklingen af sikrere og mere pålidelige AI-systemer.
Beskrivelse
- Skab adversarielle prompts, der grundigt udfordrer avancerede AI-modeller
- Opdag jailbreaks, usikker adfærd, hallucinationer og manglende overholdelse af sikkerhedspolitikker
- Vurder modellers robusthed inden for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder
- Registrer opdagede svagheder og bidrag til sikkerhedsbenchmarks og red-team-rapporter
- Samarbejd med AI-forskere om at fremme modeltilpasning, robusthed og sikkerhed
- Bidrag til at beskytte og forbedre nye avancerede AI-systemer
- Vær med til at forme, hvordan AI-modeller håndterer vanskelige sikkerhedsscenarier i virkelige sammenhænge
Krav
- Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område
- Mindst fem års professionel erfaring inden for AI-sikkerhed, red teaming af AI, tillid og sikkerhed, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område
- Stærk analytisk dømmekraft, evne til promptudvikling og gode skriftlige kommunikationsevner
- Praktisk erfaring med at skabe adversarielle prompts eller vurdere avancerede AI-systemer
- Foretrukket: baggrund inden for red teaming af AI, RLHF, SFT, AI-tilpasning eller tillid og sikkerhed
- Foretrukket: kendskab til jailbreak-vurderinger, prompt engineering eller metoder til adversarial evaluering
- Foretrukket: ekspertise inden for nuancerede områder som cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed
- Mulighed for at arbejde som selvstændig kontrahent
- H-1B- og STEM OPT-kandidater understøttes ikke
Fordele
- Arbejd fuldt ud på afstand
- Fastlæg dine egne arbejdstider, og udfør opgaver efter en fleksibel tidsplan
- Modtag ugentlige betalinger via Stripe eller Wise
- Projektets varighed kan ændres eller slutte tidligere afhængigt af virksomhedens behov og præstation
- Konkurrencedygtig aflønning
- Arbejd sammen med førende AI-forskere og sikkerhedsteams
- Rimelige tilpasninger er tilgængelige efter anmodning
- Henvisningsprogram med op til 340 USD for hver vellykket henvisning, underlagt henvisningsbegrænsninger