Mercor
Mercor
51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.

Specialista na red teaming bezpečnosti AI

Mercor hledá specialistu na red teaming bezpečnosti AI, který bude pomocí adversariálního testování prověřovat špičkové systémy AI v projektech zaměřených na trénování AI. Role se soustředí na tvorbu náročných promptů a zaznamenávání zranitelností v oblastech s vysokým rizikem.

Popis

  • Tvorba adversariálních promptů, které prověřují špičkové modely AI
  • Odhalování jailbreaků, nebezpečného chování, halucinací a porušení pravidel
  • Posuzování odolnosti modelů vůči dezinformacím, kybernetickým hrozbám, biologickým hrozbám, podvodům, politickému obsahu a dalším citlivým oblastem
  • Zaznamenávání odhalených zranitelností a podpora bezpečnostních benchmarků a reportů z red teamingu
  • Spolupráce s výzkumníky AI na posilování souladu, odolnosti a bezpečnosti modelů
  • Příspěvek k projektům zaměřeným na trénování a zlepšování systémů AI

Požadavky

  • Bakalářské nebo vyšší vzdělání v oboru informatiky, kybernetické bezpečnosti, žurnalistiky, komunikace, psychologie, biologie, chemie, veřejné politiky nebo v příbuzném oboru
  • Nejméně pět let odborné praxe v oblasti bezpečnosti AI, red teamingu AI, důvěry a bezpečnosti, kybernetické bezpečnosti, investigativní žurnalistiky, biologických věd nebo v příbuzné oblasti
  • Silné analytické uvažování a schopnost tvorby promptů a písemné komunikace
  • Zkušenost s tvorbou adversariálních promptů nebo posuzováním špičkových systémů AI
  • Bydliště v jedné z uvedených způsobilých lokalit
  • Uchazeči s vízy H-1B a STEM OPT nejsou podporováni

Benefity

  • Plně vzdálená práce
  • Flexibilní rozvrh a možnost pracovat v časech, které vám vyhovují
  • Týdenní platby prostřednictvím Stripe nebo Wise
  • Spolupráce s předními výzkumníky AI a bezpečnostními týmy
  • Možnost podílet se na utváření bezpečnosti a souladu špičkových systémů AI
  • Doba trvání projektu se může změnit nebo může být projekt předčasně ukončen podle obchodních potřeb a pracovních výsledků
  • Odměny za doporučení až 340 USD za každé úspěšné doporučení v souladu s limity doporučovacího programu

Související pracovní nabídky

GHD

Vedoucí projektování a technický ředitel pro námořní infrastrukturu

GHD

Ve společnosti GHD povedete projektování a realizaci námořní infrastruktury, budete řídit multidisciplinární týmy a odpovídat za technické výsledky. Role spojuje vedení projektů, vztahy s klienty a rozvoj činnosti v Austrálii i na mezinárodních trzích.

Otevřít
NVIDIA

Seniorní inženýr časování obvodů, NVIDIA (práce na dálku, Kalifornie)

NVIDIA

Navrhujte obvody procesorů NVIDIA pro hardwarové zabezpečení, adaptivní taktování a řízení napájení. Veďte schvalování časování a analýzu na úrovni tranzistorů a uplatňujte metody AI a strojového učení při návrhu čipů.

Otevřít