51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Specialista na testování bezpečnosti modelů AI metodou red teaming
Testujte pokročilé modely AI společnosti Mercor a hledejte jejich bezpečnostní slabiny pomocí adversariálního testování. Odhalujte zranitelnosti a pomáhejte zlepšovat sladění modelů.
Popis
- Vytvářejte adversariální prompty pro testování pokročilých modelů AI.
- Odhalujte jailbreaky, nebezpečné chování, halucinace a porušování zásad.
- Testujte odolnost modelů vůči dezinformacím, hrozbám v oblasti kybernetické bezpečnosti a biologické bezpečnosti, podvodům, politickému obsahu a dalším citlivým tématům.
- Zaznamenávejte zranitelnosti a pomáhejte vytvářet bezpečnostní benchmarky a zprávy z red teamingu.
- Spolupracujte s výzkumníky AI na posilování sladění, odolnosti a bezpečnosti modelů.
- Pomáhejte chránit a vylepšovat novou generaci pokročilých modelů AI.
- Podílejte se na projektech zaměřených na trénování a zlepšování systémů AI.
Požadavky
- Bakalářský nebo vyšší titul v oboru informatiky, kybernetické bezpečnosti, žurnalistiky, komunikace, psychologie, biologie, chemie, veřejné politiky nebo příbuzném oboru
- Alespoň pět let odborné praxe v oblasti bezpečnosti AI, red teamingu AI, trust and safety, kybernetické bezpečnosti, investigativní žurnalistiky, přírodních věd nebo příbuzném oboru
- Výborné analytické uvažování a schopnost navrhovat prompty a psát
- Zkušenosti s tvorbou adversariálních promptů nebo hodnocením pokročilých systémů AI
- Zkušenosti s red teamingem AI, RLHF, supervidovaným dolaďováním, sladěním AI nebo trust and safety jsou výhodou
- Znalost testování jailbreaků, prompt engineeringu nebo metod adversariálního hodnocení je výhodou
- Odborné znalosti alespoň v jedné citlivé oblasti, například kybernetické bezpečnosti, biologické bezpečnosti, politického obsahu, dezinformací nebo bezpečnosti vědy, jsou výhodou
- Kandidáti, kteří potřebují sponzorství víza H-1B nebo STEM OPT, se nemohou ucházet; Mercor nemůže podpořit žádnou z těchto forem sponzorství
Benefity
- Plně vzdálená práce s flexibilním rozvrhem
- Týdenní platby za poskytnuté služby prostřednictvím Stripe nebo Wise
- Délka projektu se může měnit a projekt může skončit předčasně podle potřeb projektu a pracovního výkonu
- Spolupráce s předními výzkumníky AI a bezpečnostními týmy
- Možnost ovlivňovat, jak systémy AI zvládají složité bezpečnostní výzvy v reálném světě
- Na vyžádání jsou k dispozici přiměřená opatření
- Odměny za doporučení až 340 USD za každé úspěšné doporučení, s příslušnými limity