51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI (angličtina a bengálština) — práce na dálku na smlouvu
Mercor hledá smluvního experta na bezpečnost AI s plynulou znalostí angličtiny a bengálštiny pro red teamové testování konverzačních modelů a agentů. Náplní práce je zkoumání zranitelností, hodnocení citlivých výstupů a vytváření reprodukovatelných bezpečnostních dat pro zákazníky zabývající se výzkumem AI.
Popis
- Testovat konverzační modely a agenty pomocí jailbreaků, prompt injection, scénářů zneužití, využívání předpojatosti a vícekrokové manipulace
- Vytvářet lidmi označená data dokumentováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Využívat zavedené taxonomie, benchmarky a postupy k podpoře konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a scénáře útoků pro zákazníky
- Posuzovat odpovědi modelů týkající se předpojatosti, dezinformací, škodlivého jednání a dalších citlivých témat
- Rozšiřovat pokrytí hodnocení vyhledáváním slabin, které mohou automatizovanému testování uniknout
Požadavky
- Plynulá znalost angličtiny a bengálštiny na úrovni rodilého mluvčího
- Správný úsudek při hodnocení přesnosti, úplnosti a vhodnosti jazyka a obsahu
- Schopnost odhalovat jemné chyby, nesrovnalosti a chybějící informace
- Spolehlivé dodržování stanovených pokynů a požadavků na kvalitu
- Schopnost jasně vysvětlit své úvahy technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, ve více formátech úkolů a pro různé zákazníky
- Je nutné pracovat jako nezávislý dodavatel
- Nesmí být vyžadováno sponzorství H-1B ani STEM OPT; výhodou jsou zkušenosti s adversariálním strojovým učením, kybernetickou bezpečností, sociotechnickými riziky nebo kreativním zkoumáním zranitelností.
- Benefity
Benefity
- Plně vzdálená práce na smlouvu
- Flexibilita při sestavování vlastního pracovního rozvrhu
- Týdenní platby prostřednictvím Stripe nebo Wise
- Projekty mohou být prodlouženy, omezeny nebo předčasně ukončeny podle obchodních potřeb a pracovních výsledků
- Možnost dobrovolně se účastnit projektů s vyšší citlivostí
- Jasné postupy a zdroje podpory duševní pohody při práci s citlivým obsahem
- Na vyžádání jsou k dispozici přiměřená opatření
- Odměny za doporučení až 90 USD za každé úspěšné doporučení