Mercor
Mercor
51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.

Red teamare inom AI-säkerhet

Mercor söker en red teamare inom AI-säkerhet som testar avancerade AI-system med adversariella promptar. Rollen omfattar dokumentation av risker och samarbete med forskare för att stärka modellsäkerhet och alignment.

Beskrivning

  • Skapa adversariella promptar för att testa avancerade AI-modeller
  • Hitta jailbreaks, osäkra svar, hallucinationer och brister i policyer
  • Bedöma modellernas motståndskraft inom känsliga områden som desinformation, cybersäkerhet, biosäkerhet, bedrägerier och politiskt innehåll
  • Dokumentera sårbarheter och bidra till säkerhetsriktmärken och rapporter från red teaming
  • Samarbeta med AI-forskare för att stärka modellernas alignment, motståndskraft och säkerhet
  • Bidra till projekt som tränar och förbättrar AI-system

Krav

  • Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område
  • Minst fem års yrkeserfarenhet inom AI-säkerhet, AI-red teaming, tillit och säkerhet, cybersäkerhet, undersökande journalistik, livsvetenskaper eller ett närliggande område
  • Stark analytisk förmåga samt goda färdigheter i promptdesign och skriftlig kommunikation
  • Erfarenhet av att skapa adversariella promptar eller utvärdera avancerade AI-system
  • Meriterande: Bakgrund inom AI-red teaming, RLHF, övervakad finjustering, AI-alignment eller tillit och säkerhet
  • Meriterande: Kännedom om jailbreaktestning, prompt engineering eller metoder för adversariell utvärdering
  • Meriterande: Expertis inom nyanserade områden som cybersäkerhet, biosäkerhet, politiskt innehåll, desinformation eller vetenskaplig säkerhet
  • Måste kunna arbeta som självständig uppdragstagare
  • H-1B- och STEM OPT-kandidater kan inte stödjas

Förmåner

  • Helt distansbaserat arbete med flexibelt schema
  • Veckovisa utbetalningar via Stripe eller Wise för utförda tjänster
  • Projektets längd kan förlängas, förkortas eller avslutas i förtid utifrån behov och prestation
  • Konkurrenskraftig ersättning
  • Möjlighet att samarbeta med ledande forskare och säkerhetsteam
  • Skäliga anpassningar erbjuds på begäran
  • Rekommendationsbonus på upp till 340 USD per lyckad rekommendation, med förbehåll för begränsningar

Relaterade jobb

Knowtion Health

Ansvarig för talangrekrytering på distans

Knowtion Health

Ansvara för rekryteringssystem, rekvisitioner, analyser och administration av tillfällig arbetskraft hos Knowtion Health. Bidra till skalbara rekryteringsprocesser i ett växande vårdföretag.

Öppna
Napco National

Inköpskoordinator, Saudiarabien (distansarbete)

Napco National

Samordna inköpsarbetet för ett tillverkningsföretag i Saudiarabien, från inköpsorder och leverantörsleveranser till tulldokument och materialöverföringar. Stöd klarering av leveranser, fakturahantering, leverantörsreklamationer och förnyelse av produktcertifikat.

Öppna
4M Analytics

Senioringenjör inom datorseendealgoritmer

4M Analytics

Utveckla datorseende- och maskininlärningssystem för 4M Analytics plattform för kartläggning av ledningar och annan infrastruktur under marken. Ansvara för algoritmer från forskning till produktion tillsammans med data engineering- och produktteam.

Öppna
Terumo Medical Corporation

Regionchef, Terumo Interventional Systems försäljning

Terumo Medical Corporation

Led försäljningen av medicintekniska produkter i en region i North Central New Jersey och ansvarade för fältteam och sjukhusrelationer. Driv regionala intäkter och försäljningsresultat samt säkerställ regelriktig marknadsföring av Terumo Interventional Systems produkter.

Öppna
Claroty

QA-automatiseringsingenjör

Claroty

Utveckla API- och UI-automation samt kvalitetsgrindar i CI/CD för Clarotys plattform för cybersäkerhet inom cyberfysiska system. Bidra till att skydda kritisk infrastruktur genom tillförlitlig testning.

Öppna