Mercor
Mercor
51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.

Ekspert i AI-sikkerheds-red teaming (engelsk og punjabi)

Udfør adversarial testning af konversationsbaserede AI-modeller og agenter på engelsk og punjabi. Opret sårbarhedsannoteringer, angrebs cases, datasæt og reproducerbare sikkerhedsrapporter til Mercors AI-sikkerhedsprojekter med menneskelige data.

Beskrivelse

  • Test konversationsbaserede AI-modeller og agenter med jailbreaks, promptinjektioner, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder
  • Opret annoteringer af menneskelige data ved at dokumentere fejl, kategorisere sårbarheder og identificere systemiske risici
  • Brug etablerede taksonomier, benchmarks og playbooks for at sikre ensartede evalueringer
  • Lever reproducerbare rapporter, datasæt og angrebscases til kunder
  • Vurder AI-output relateret til bias, misinformation, skadelig adfærd og andre følsomme emner
  • Udvid evalueringsdækningen for at identificere sårbarheder, som automatiserede tests kan overse
  • Bidrag til at forbedre sikkerheden, robustheden og pålideligheden af kundernes AI-systemer

Krav

  • Engelsk- og punjabitalende på modersmålsniveau eller flydende niveau
  • God dømmekraft ved vurdering af nøjagtigheden, fuldstændigheden og hensigtsmæssigheden af AI-genereret indhold
  • Evne til at opdage nuancerede fejl, uoverensstemmelser og udeladelser
  • Konsekvent overholdelse af retningslinjer, taksonomier, benchmarks, playbooks og kvalitetsstandarder
  • Klar kommunikation af ræsonnement til både tekniske og ikke-tekniske målgrupper
  • Fleksibilitet på tværs af projekter, opgaveformater og kundekrav
  • Evne til at arbejde som selvstændig kontrahent
  • H1-B- og STEM OPT-kandidater understøttes ikke
  • Relevant baggrund inden for adversarial machine learning, jailbreak-datasæt, promptinjektions- eller RLHF/DPO-angreb, modeludtræk, penetrationstest, exploitudvikling, reverse engineering, sondering af chikane eller desinformation, misbrugsanalyse, test af konversationsbaseret AI, psykologi, skuespil eller ukonventionel adversarial skrivning er en fordel

Fordele

  • Fuldt fjernarbejde med fleksibel, selvadministreret arbejdstilrettelæggelse
  • Ugentlige betalinger via Stripe eller Wise
  • Konkurrencedygtig aflønning
  • Trivselsressourcer og tydelig vejledning til projekter med højere følsomhed
  • Rimelige tilpasninger er tilgængelige efter anmodning
  • Henvisningsbetalinger på op til 90 USD for hver vellykket henvisning
  • Muligheder for samarbejde med førende forskere
  • Praktisk erfaring med red teaming af menneskelige data i frontlinjen af AI-sikkerhed

Relaterede job

Creative information Technology

Senior Javaudvikler, på arbejdsstedet i Virginia

Creative information Technology
11 – 50 Medarbejdere
B2BHardwareSikkerhed

Byg skalerbare Java-mikrotjenester for CITI, en it-serviceudbyder for offentlige og kommercielle kunder. Udvikl sikre applikationer til identitets-, legitimations- og adgangsstyring.

Åbn
Mission Technologies, a division of HII

Ingeniør inden for informationssystemsikkerhed (ISSO)

Mission Technologies, a division of HII
5.001 – 10.000 Medarbejdere
FremstillingLogistikRådgivning

Beskyt klassificerede system hos Mission Technologies, en division af HII, ved at håndtere RMF-sikkerhedsdokumentation og -kontroller. Støt certificering, revisioner, compliance-gennemgange og sikkerhedsundersøgelser i en onsite-stilling i Hampton, Virginia.

Åbn