51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Red teamer inden for AI-modelsikkerhed
Afprøv Mercors avancerede AI-modeller med adversarial testning for at finde sikkerhedsbrister. Find sårbarheder, og hjælp med at forbedre modellernes alignment.
Beskrivelse
- Udform adversarial-prompter for at afprøve avancerede AI-modeller.
- Find jailbreaks, usikker adfærd, hallucinationer og overtrædelser af politikker.
- Test modellernes robusthed over for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder.
- Dokumentér sårbarheder, og hjælp med at udarbejde sikkerhedsbenchmarks og red teaming-rapporter.
- Samarbejd med AI-forskere om at styrke modellernes alignment, robusthed og sikkerhed.
- Hjælp med at beskytte og forbedre næste generation af avancerede AI-modeller.
- Bidrag til projekter, der træner og forbedrer AI-systemer.
Krav
- Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område
- Mindst fem års professionel erfaring inden for AI-sikkerhed, red teaming af AI, tillid og sikkerhed, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område
- Stærke analytiske evner samt gode færdigheder inden for promptdesign og skriftlig formidling
- Erfaring med at udforme adversarial-prompter eller evaluere avancerede AI-systemer
- Erfaring med red teaming af AI, RLHF, supervised fine-tuning, AI-alignment eller tillid og sikkerhed er en fordel
- Kendskab til jailbreak-test, prompt engineering eller metoder til adversarial evaluering er en fordel
- Ekspertise inden for mindst ét følsomt område, f.eks. cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed, er en fordel
- Du må ikke have behov for H-1B- eller STEM OPT-sponsorering; Mercor kan ikke støtte kandidater, der har brug for nogen af disse former for sponsorering
Fordele
- Fuldt fjernarbejde med fleksible arbejdstider
- Ugentlig betaling via Stripe eller Wise for udført arbejde
- Projektets varighed kan ændres eller projektet kan afsluttes før tid afhængigt af projektbehov og arbejdsindsats
- Arbejd sammen med førende AI-forskere og sikkerhedsteams
- Vær med til at forme, hvordan AI-systemer håndterer komplekse sikkerhedsudfordringer fra den virkelige verden
- Rimelige tilpasninger tilbydes efter anmodning
- Henvisningsbetaling på op til 340 USD pr. vellykket henvisning med forbehold for begrænsninger