Mercor
Mercor
51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.

AI-säkerhetsred teamer

Mercor söker en AI-säkerhetsred teamer som ska testa banbrytande AI-system genom adversarial testing för AI-träningsprojekt. Rollen fokuserar på att utforma utmanande promptar och dokumentera sårbarheter inom högriskområden.

Beskrivning

  • Skapa adversariella promptar som utmanar banbrytande AI-modeller
  • Upptäck jailbreaks, osäkert beteende, hallucinationer och policyöverträdelser
  • Bedöm modellernas motståndskraft inom desinformation, cybersäkerhet, biosäkerhet, bedrägerier, politiskt innehåll och andra känsliga områden
  • Dokumentera upptäckta sårbarheter och bidra till säkerhetsbenchmarking och red-teaming-rapporter
  • Samarbeta med AI-forskare för att stärka modellernas alignment, robusthet och säkerhet
  • Bidra till projekt som tränar och förbättrar AI-system

Krav

  • Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område
  • Minst fem års yrkeserfarenhet inom AI-säkerhet, AI-red teaming, trust and safety, cybersäkerhet, undersökande journalistik, biovetenskap eller ett närliggande område
  • Mycket god analytisk förmåga samt goda kunskaper i prompt engineering och skriftlig kommunikation
  • Erfarenhet av att skapa adversariella promptar eller bedöma banbrytande AI-system
  • Bosatt på en av de angivna platserna som omfattas av behörighetskraven
  • Kandidater med H-1B och STEM OPT stöds inte

Förmåner

  • Arbeta helt på distans
  • Välj ett flexibelt arbetsschema och utför arbetet på tider som passar dig
  • Få veckovisa betalningar via Stripe eller Wise
  • Samarbeta med ledande AI-forskare och säkerhetsteam
  • Bidra till att forma säkerheten och alignment för banbrytande AI-system
  • Projektets varaktighet kan ändras eller avslutas i förtid beroende på verksamhetens behov och prestation
  • Tjäna hänvisningsersättning på upp till 340 USD per godkänd hänvisning, med förbehåll för hänvisningsgränser

Relaterade jobb

Cloudera

Senior säljchef för tillämpad AI

Cloudera

Leda företagsförsäljningen av Mistral AI-lösningar med stöd från Cloudera, från första kontakt till proof of concept, avtal och expansion. Utveckla strategiska kundkonton genom Clouderas dataplattform och relationer inom hybridmoln.

Öppna