51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Red teamer inden for AI-sikkerhed – fjernopgave (USA)
Mercor søger en red teamer inden for AI-sikkerhed til at afdække sårbarheder i avancerede AI-modeller gennem adversarial testning. Rollen omfatter udvikling af prompts og vurdering af højrisikoadfærd i modeller sammen med AI-sikkerhedsforskere.
Beskrivelse
- Udvikle adversarial prompts for at udfordre avancerede AI-modeller
- Opdage jailbreaks, usikker adfærd, hallucinationer og overtrædelser af politikker
- Vurdere modellers robusthed inden for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder
- Dokumentere sårbarheder og bidrage til sikkerhedsbenchmarks og rapporter om red teaming
- Samarbejde med AI-forskere om at styrke modellers alignment, robusthed og sikkerhed
- Bidrage til projekter, der træner og forbedrer AI-systemer
Krav
- Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område
- Mindst fem års erhvervserfaring inden for AI-sikkerhed, AI-red teaming, trust and safety, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område
- Stærke analytiske evner samt gode evner inden for promptdesign og skriftlig kommunikation
- Erfaring med at skabe adversarial prompts eller vurdere avancerede AI-systemer
- Erfaring med AI-red teaming, RLHF, SFT, AI-alignment eller trust and safety er en fordel
- Kendskab til jailbreak-testning, prompt engineering eller adversarial evalueringsmetoder er en fordel
- Ekspertise inden for et eller flere gråzoneområder som cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed er en fordel
- Evne til at arbejde som selvstændig kontraktansat
- Kandidater med H-1B og STEM OPT understøttes ikke
Fordele
- Fuldt fjernarbejde
- Fleksibel arbejdstid
- Ugentlige betalinger via Stripe eller Wise
- Projekter kan forlænges, forkortes eller afsluttes før tid afhængigt af virksomhedens behov og arbejdsindsatsen
- Adversarial testarbejde sammen med førende AI-forskere og sikkerhedsteams
- Mulighed for at præge, hvordan AI-systemer håndterer komplekse sikkerhedsudfordringer i den virkelige verden
- Rimelige tilpasninger er tilgængelige efter anmodning
- Henvisningsbetalinger på op til 340 USD pr. vellykket henvisning med forbehold for henvisningsgrænser