LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
LinkedIn
Job i virksomheden

Red team-specialist i AI-sikkerhed

Mercor søger en specialist i AI-sikkerhed, der tester avancerede modeller med adversarielle prompts. Arbejdet handler om at finde svagheder og hjælpe AI-laboratorier med at forbedre modellernes tilpasning, robusthed og sikkerhed.

USUSA
70 $ – 84 $ / time
FjernarbejdeKontraktMellemniveauSeniorPåkrævet Sprog: engelskKunstig intelligens
Cybersikkerhed

Beskrivelse

  • Skab adversarielle prompts for at teste avancerede AI-modeller.
  • Find jailbreaks, usikker adfærd, hallucinationer og brud på politikker.
  • Vurder modellernes robusthed på følsomme områder som misinformation, cybersikkerhed, biosikkerhed, svindel og politisk indhold.
  • Dokumentér sårbarheder, og hjælp med at udarbejde sikkerhedsbenchmarks og red teaming-rapporter.
  • Samarbejd med AI-forskere om at styrke modellernes tilpasning, robusthed og sikkerhed.
  • Bidrag til projekter, der træner og forbedrer AI-systemer.

Krav

  • Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område.
  • Mindst fem års professionel erfaring inden for AI-sikkerhed, red teaming af AI, tillid og sikkerhed, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område.
  • Stærke analytiske evner samt gode evner inden for promptdesign og skriftlig kommunikation.
  • Erfaring med at skabe adversarielle prompts eller vurdere avancerede AI-systemer.
  • Erfaring med red teaming af AI, RLHF, SFT, AI-tilpasning eller tillid og sikkerhed er en fordel.
  • Kendskab til jailbreak-test, prompt engineering eller metoder til adversariel evaluering er en fordel.
  • Ekspertise inden for nuancerede områder som cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed er en fordel.
  • Evne til at arbejde som selvstændig kontraktansat.
  • Der tilbydes ikke støtte til H-1B- eller STEM OPT-kandidater.

Fordele

  • Arbejd på afstand fra hvor som helst i USA.
  • Tilrettelæg selv din arbejdsplan.
  • Modtag ugentlige betalinger via Stripe eller Wise.
  • Projekter kan blive forlænget, forkortet eller afsluttet før tid afhængigt af projektbehov og arbejdsindsats.
  • Arbejd sammen med førende AI-forskere og sikkerhedsteams.
  • Vær med til at forme sikkerheden i avancerede AI-systemer.
  • Der tilbydes rimelige tilpasninger efter anmodning.
  • Få henvisningsbetaling på op til 340 USD pr. vellykket henvisning; begrænsninger gælder.

Relaterede job