51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Specialista na testování bezpečnosti AI — práce na dálku z USA
Mercor hledá specialistu na testování bezpečnosti AI na dálku, který bude prověřovat pokročilé modely AI a odhalovat zranitelnosti v oblastech s vysokým rizikem. Tato smluvní role podporuje laboratoře AI vyvíjející a zdokonalující pokročilé systémy.
Popis
- Vytvářet adversariální prompty pro testování pokročilých modelů AI
- Odhalovat jailbreaky, nebezpečné chování, halucinace a porušování zásad
- Posuzovat odolnost modelů vůči dezinformacím, kybernetickým hrozbám, rizikům biologické bezpečnosti, podvodům, politickému obsahu a dalším citlivým tématům
- Zaznamenávat odhalené zranitelnosti a pomáhat vytvářet bezpečnostní benchmarky a zprávy z red-teamových testů
- Spolupracovat s výzkumníky AI na posilování sladění, odolnosti a bezpečnosti modelů
- Přispívat k projektům, které trénují a zdokonalují systémy AI
Požadavky
- Bakalářské nebo vyšší vzdělání v oboru informatiky, kybernetické bezpečnosti, žurnalistiky, komunikace, psychologie, biologie, chemie, veřejné politiky nebo v příbuzném oboru
- Alespoň pět let odborné praxe v oblasti bezpečnosti AI, red-teamového testování AI, důvěry a bezpečnosti, kybernetické bezpečnosti, investigativní žurnalistiky, přírodních věd nebo v příbuzné oblasti
- Silný analytický úsudek, schopnost navrhovat prompty a dovednosti písemné komunikace
- Zkušenost s vytvářením adversariálních promptů nebo hodnocením pokročilých systémů AI
- Zkušenosti s red-teamovým testováním AI, RLHF, SFT, sladěním AI nebo důvěrou a bezpečností jsou výhodou
- Znalost testování jailbreaků, prompt engineeringu nebo metod adversariálního hodnocení je výhodou
- Odbornost alespoň v jedné oblasti šedé zóny, například v kybernetické bezpečnosti, biologické bezpečnosti, politickém obsahu, dezinformacích nebo vědecké bezpečnosti, je výhodou
- Schopnost pracovat jako nezávislý dodavatel
- Uchazeči s vízem H-1B a statusem STEM OPT nejsou podporováni
Benefity
- Plně vzdálená práce
- Flexibilní rozvrh podle vlastního uvážení
- Týdenní platby prostřednictvím Stripe nebo Wise
- Projekty mohou být prodlouženy, zkráceny nebo ukončeny dříve podle obchodních potřeb a pracovních výsledků
- Konkurenceschopná odměna
- Spolupráce s předními výzkumníky AI a bezpečnostními týmy
- Na vyžádání jsou k dispozici přiměřená opatření
- Odměny za doporučení až do výše 340 USD za každé úspěšné doporučení s výhradou platných limitů