51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Specialista na red teaming bezpečnosti AI — vzdálený kontrakt v USA
Mercor hledá smluvního specialistu na red teaming bezpečnosti AI, který bude testovat pokročilé modely AI a odhalovat jejich zranitelnosti. Role se zaměřuje na vysoce rizikové oblasti a podporuje vývoj bezpečnějších a spolehlivějších systémů AI.
Popis
- Vytvářet adversariální prompty pro důkladné testování pokročilých modelů AI
- Odhalovat jailbreaky, nebezpečné chování, halucinace a nedodržování bezpečnostních zásad
- Posuzovat odolnost modelů v oblastech dezinformací, kybernetické bezpečnosti, biologické bezpečnosti, podvodů, politického obsahu a dalších citlivých témat
- Dokumentovat zjištěné slabiny a podporovat bezpečnostní benchmarky a zprávy z red teamingu
- Spolupracovat s výzkumníky AI na zvyšování souladu, odolnosti a bezpečnosti modelů
- Pomáhat chránit a zlepšovat nové pokročilé systémy AI
- Utvářet způsob, jakým modely AI zvládají náročné bezpečnostní scénáře v reálném světě
Požadavky
- Bakalářské nebo vyšší vzdělání v oboru informatiky, kybernetické bezpečnosti, žurnalistiky, komunikace, psychologie, biologie, chemie, veřejné politiky nebo příbuzném oboru
- Nejméně pět let odborné praxe v oblasti bezpečnosti AI, red teamingu AI, důvěry a bezpečnosti, kybernetické bezpečnosti, investigativní žurnalistiky, věd o živé přírodě nebo příbuzné oblasti
- Silný analytický úsudek, schopnost vytvářet prompty a dobré písemné komunikační dovednosti
- Praktická zkušenost s vytvářením adversariálních promptů nebo posuzováním pokročilých systémů AI
- Výhodou: zkušenosti s red teamingem AI, RLHF, SFT, alignmentem AI nebo důvěrou a bezpečností
- Výhodou: znalost hodnocení jailbreaků, prompt engineeringu nebo metod adversariálního hodnocení
- Výhodou: odbornost v oblastech, jako jsou kybernetická bezpečnost, biologická bezpečnost, politický obsah, dezinformace nebo vědecká bezpečnost
- Ochota pracovat jako nezávislý dodavatel
- Uchazečům s vízy H-1B a STEM OPT není poskytována podpora
Benefity
- Plně vzdálená práce
- Možnost zvolit si pracovní dobu a plnit úkoly podle flexibilního rozvrhu
- Týdenní platby prostřednictvím Stripe nebo Wise
- Délka projektu se může změnit nebo může být projekt předčasně ukončen podle obchodních potřeb a pracovních výsledků
- Konkurenceschopná odměna
- Spolupráce s předními výzkumníky AI a bezpečnostními týmy
- Na vyžádání jsou k dispozici přiměřená opatření
- Referral program nabízí až 340 USD za každé úspěšné doporučení s výhradou limitů programu