Mercor
Mercor
51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.

AI-säkerhetstestare – distansavtal i USA

Mercor söker en AI-säkerhetstestare på kontraktsbasis för att utmana avancerade AI-modeller och upptäcka sårbarheter. Rollen fokuserar på högriskområden och bidrar till utvecklingen av säkrare och mer tillförlitliga AI-system.

Beskrivning

  • Skapa adversariella promptar som noggrant utmanar avancerade AI-modeller
  • Upptäcka jailbreaks, osäkert beteende, hallucinationer och brister i att följa säkerhetspolicyer
  • Bedöma modellers motståndskraft inom desinformation, cybersäkerhet, biosäkerhet, bedrägerier, politiskt innehåll och andra känsliga områden
  • Dokumentera upptäckta svagheter och bidra till säkerhetsriktmärken och red-team-rapporter
  • Samarbeta med AI-forskare för att utveckla modellanpassning, robusthet och säkerhet
  • Bidra till att skydda och förbättra framväxande avancerade AI-system
  • Påverka hur AI-modeller hanterar svåra säkerhetsscenarier i verkliga sammanhang

Krav

  • Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område
  • Minst fem års yrkeserfarenhet inom AI-säkerhet, red teaming av AI, förtroende och säkerhet, cybersäkerhet, granskande journalistik, livsvetenskaper eller ett närliggande område
  • God analytisk bedömningsförmåga, förmåga att utveckla promptar och god skriftlig kommunikationsförmåga
  • Praktisk erfarenhet av att skapa adversariella promptar eller bedöma avancerade AI-system
  • Meriterande: bakgrund inom red teaming av AI, RLHF, SFT, AI-anpassning eller förtroende och säkerhet
  • Meriterande: kännedom om jailbreak-bedömningar, prompt engineering eller metoder för adversariell utvärdering
  • Meriterande: expertis inom nyanserade områden som cybersäkerhet, biosäkerhet, politiskt innehåll, desinformation eller vetenskaplig säkerhet
  • Möjlighet att arbeta som självständig uppdragstagare
  • H-1B- och STEM OPT-kandidater stöds inte

Förmåner

  • Arbeta helt på distans
  • Bestäm dina egna arbetstider och slutför uppdrag enligt ett flexibelt schema
  • Få veckovisa betalningar via Stripe eller Wise
  • Projektets längd kan ändras eller avslutas i förtid beroende på verksamhetens behov och prestation
  • Konkurrenskraftig ersättning
  • Arbeta tillsammans med ledande AI-forskare och säkerhetsteam
  • Skäliga anpassningar erbjuds på begäran
  • Remissprogram med upp till 340 USD för varje framgångsrik rekommendation, med förbehåll för remissbegränsningar

Relaterade jobb

Brown & Brown Insurance

Säsongsanställd senior skaderegleringsrevisor – konsult, distansarbete i Pennsylvania

Brown & Brown Insurance

Ansvara för komplexa Employer Stop Loss-skador hos One80 Intermediaries, från skadereglering och reservrekommendationer till granskning och lösning. Rollen fokuserar på kostsamma medicinska skador, bland annat transplantationer, onkologi, katastrofala tillstånd och specialläkemedel.

Öppna