LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
LinkedIn
Job i virksomheden

AI-sikkerhedstester

Mercor søger en AI-sikkerhedstester, der undersøger avancerede modeller for jailbreaks, hallucinationer og brud på politikker. Virksomheden samarbejder med AI-laboratorier om at træne og forbedre AI-systemer.

USUSA
70 $ – 84 $ / time
FjernarbejdeKontraktMellemniveauSeniorPåkrævet Sprog: engelskKunstig intelligens
Cybersikkerhed

Beskrivelse

  • Udarbejd adversarielle prompts for at teste avancerede AI-modeller.
  • Find jailbreaks, usikker adfærd, hallucinationer og brud på politikker.
  • Vurder modellernes robusthed inden for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder.
  • Dokumentér sårbarheder, og hjælp med at udarbejde sikkerhedsbenchmarks og red teaming-rapporter.
  • Samarbejd med AI-forskere om at styrke modellernes tilpasning, robusthed og sikkerhed.
  • Gennemfør projekter som selvstændig kontraktansat efter projektbehov og præstation.

Krav

  • Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område.
  • Mindst fem års erhvervserfaring inden for AI-sikkerhed, AI-red teaming, tillid og sikkerhed, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område.
  • Stærke analytiske evner samt gode færdigheder inden for promptdesign og skriftlig formidling.
  • Erfaring med at udarbejde adversarielle prompts eller evaluere avancerede AI-systemer.
  • En fordel: erfaring med AI-red teaming, RLHF, SFT, AI-tilpasning eller tillid og sikkerhed.
  • En fordel: kendskab til jailbreak-test, prompt engineering eller adversarielle evalueringsmetoder.
  • En fordel: ekspertise inden for et eller flere følsomme områder, herunder cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed.
  • Du skal kunne arbejde som selvstændig kontraktansat.
  • Kandidater med H-1B og STEM OPT støttes ikke.

Fordele

  • Fuldt fjernarbejde.
  • Du tilrettelægger selv din arbejdstid.
  • Ugentlige betalinger via Stripe eller Wise for udført arbejde.
  • Arbejd sammen med førende AI-forskere og sikkerhedsteams.
  • Bidrag til sikkerhed og tilpasning af avanceret AI.
  • Henvisningsbetaling på op til 340 USD pr. vellykket henvisning, med forbehold for begrænsninger.
  • Rimelige tilpasninger tilbydes efter anmodning.

Relaterede job