51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Red team-specialist i AI-sikkerhed
Stresstest Mercors partnerlaboratoriers avancerede AI-systemer ved at undersøge sårbarheder på højrisikoområder. Bidrag med resultater til sikkerhedsbenchmarks, og hjælp forskere med at forbedre modellernes robusthed og tilpasning.
Beskrivelse
- Udarbejd adversarielle prompts for at teste avancerede AI-modeller.
- Find jailbreaks, usikker adfærd, hallucinationer og brud på politikker.
- Vurder modellernes robusthed på følsomme områder som misinformation, cybersikkerhed, biosikkerhed, svindel og politisk indhold.
- Dokumentér sårbarheder, og bidrag til sikkerhedsbenchmarks og red team-rapporter.
- Samarbejd med AI-forskere om at styrke modellernes tilpasning, robusthed og sikkerhed.
- Bidrag til projekter, der træner og forbedrer AI-systemer.
- Planlæg selv din arbejdstid. Projektets varighed kan ændres, eller det kan slutte tidligere afhængigt af virksomhedens behov og din arbejdsindsats.
Krav
- Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område.
- Mindst fem års erhvervserfaring inden for AI-sikkerhed, red teaming af AI, trust and safety, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område.
- Stærke analytiske evner samt gode færdigheder inden for promptdesign og skriftlig formidling.
- Erfaring med at udarbejde adversarielle prompts eller evaluere avancerede AI-systemer.
- En fordel: erfaring med red teaming af AI, RLHF, SFT, AI-tilpasning eller trust and safety.
- En fordel: kendskab til jailbreaktest, prompt engineering eller metoder til adversarial evaluering.
- En fordel: ekspertise inden for et eller flere følsomme områder, herunder cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed.
- Engagementet er som selvstændig kontrahent.
- Du skal kunne arbejde uden støtte til H-1B eller STEM OPT.
Fordele
- Fuldt fjernarbejde med fleksibel arbejdstid.
- Ugentlige betalinger via Stripe eller Wise for udført arbejde.
- Arbejd sammen med førende AI-forskere og sikkerhedsteams.
- Vær med til at forme, hvordan AI-systemer håndterer komplekse sikkerhedsudfordringer fra den virkelige verden.
- Konkurrencedygtig løn.
- Rimelige tilpasninger tilbydes efter anmodning.
- Henvisningsbetaling på op til 340 for hver vellykket henvisning, med forbehold for begrænsninger.