51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Red teamer inden for AI-sikkerhed – fjernarbejde i USA
Mercor søger en AI-sikkerhedsred teamer på afstand, der skal udfordre banebrydende AI-modeller og afdække sårbarheder inden for højrisikoområder. Kontraktrollen understøtter AI-laboratorier, der udvikler og forbedrer avancerede systemer.
Beskrivelse
- Skab adversarielle prompts for at undersøge banebrydende AI-modeller
- Identificer jailbreaks, usikker adfærd, hallucinationer og overtrædelser af politikker
- Vurder modellernes modstandsdygtighed over for misinformation, cybertrusler, biosikkerhedsrisici, svindel, politisk indhold og andre følsomme emner
- Dokumenter opdagede sårbarheder, og bidrag til sikkerhedsbenchmarks og red-team-rapporter
- Samarbejd med AI-forskere om at styrke modellernes tilpasning, robusthed og sikkerhed
- Bidrag til projekter, der træner og forbedrer AI-systemer
Krav
- Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område
- Mindst fem års erhvervserfaring inden for AI-sikkerhed, AI-red teaming, tillid og sikkerhed, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område
- Stærk analytisk dømmekraft, evne til promptdesign og gode skriftlige kommunikationsevner
- Erfaring med at skabe adversarielle prompts eller vurdere banebrydende AI-systemer
- Erfaring med AI-red teaming, RLHF, SFT, AI-tilpasning eller tillid og sikkerhed foretrækkes
- Kendskab til jailbreak-test, prompt engineering eller adversarielle evalueringsmetoder foretrækkes
- Ekspertise inden for mindst ét gråzoneområde, såsom cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed, foretrækkes
- Evne til at arbejde som selvstændig kontrahent
- H-1B- og STEM OPT-kandidater understøttes ikke
Fordele
- Fuldt fjernarbejde
- Fleksibel og selvstændigt tilrettelagt arbejdstid
- Ugentlige betalinger via Stripe eller Wise
- Projekter kan forlænges, forkortes eller afsluttes før tid afhængigt af virksomhedens behov og arbejdsindsats
- Konkurrencedygtig aflønning
- Samarbejde med førende AI-forskere og sikkerhedsteams
- Rimelige tilpasninger er tilgængelige efter anmodning
- Henvisningsbetalinger på op til 340 USD pr. gennemført henvisning med forbehold for gældende begrænsninger