Mercor
Mercor
51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.

AI-sikkerhedsred teamer

Mercor søger en AI-sikkerhedsred teamer til at undersøge banebrydende AI-systemer gennem adversarial testing i AI-træningsprojekter. Rollen fokuserer på at udforme udfordrende prompts og dokumentere sårbarheder inden for højrisikoområder.

Beskrivelse

  • Skab adversarial prompts, der udfordrer banebrydende AI-modeller
  • Opdag jailbreaks, usikker adfærd, hallucinationer og overtrædelser af politikker
  • Vurder modellernes modstandsdygtighed inden for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder
  • Dokumentér opdagede sårbarheder, og bidrag til sikkerhedsbenchmarks og red-teaming-rapporter
  • Samarbejd med AI-forskere om at styrke modellernes alignment, robusthed og sikkerhed
  • Bidrag til projekter, der træner og forbedrer AI-systemer

Krav

  • En bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område
  • Mindst fem års professionel erfaring inden for AI-sikkerhed, AI-red teaming, trust and safety, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område
  • Stærke analytiske evner samt gode kompetencer inden for prompt engineering og skriftlig kommunikation
  • Erfaring med at skabe adversarial prompts eller vurdere banebrydende AI-systemer
  • Bopæl på en af de angivne steder, der er omfattet af kravene
  • Kandidater med H-1B og STEM OPT understøttes ikke

Fordele

  • Arbejd udelukkende på afstand
  • Vælg en fleksibel arbejdsplan, og udfør arbejdet på tidspunkter, der passer dig
  • Modtag ugentlige betalinger via Stripe eller Wise
  • Samarbejd med førende AI-forskere og sikkerhedsteams
  • Vær med til at forme sikkerheden og alignment for banebrydende AI-systemer
  • Projektets varighed kan ændres eller slutte før tid afhængigt af virksomhedens behov og præstation
  • Tjen henvisningsbetalinger på op til 340 USD pr. vellykket henvisning med forbehold for henvisningsgrænser

Relaterede job

Correlation One

Læringsdesigner inden for data- og AI-undervisning

Correlation One
51 – 200 Medarbejdere
Sponsor for H1B-visum

Udform evidensbaseret undervisning i data og AI til Correlation Ones kompetenceudviklingsprogrammer. Skab læseplaner, øvelser og genanvendelige læringsressourcer til erhvervskunder.

Åbn