51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI (angličtina a odijština) — smlouva
Mercor hledá odborníka na bezpečnost AI, který plynně ovládá angličtinu a odijštinu a bude provádět red team testování konverzačních modelů AI pro trénování modelů nejnovější generace. Náplň práce zahrnuje vytváření anotací zranitelností, útočných scénářů, datových sad a reprodukovatelných bezpečnostních zpráv.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, prompt injection, scénářů zneužití, využívání předpojatosti a vícekolové manipulace.
- Dokumentovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika.
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení.
- Vytvářet reprodukovatelné bezpečnostní zprávy, datové sady a útočné scénáře.
- Zkoumat výstupy modelů z hlediska předpojatosti, dezinformací a škodlivého chování.
- Podporovat trénování a zlepšování systémů AI nejnovější generace pro laboratoř AI společnosti Mercor a podnikové zákazníky.
Požadavky
- Plynulá znalost angličtiny a odijštiny na úrovni rodilého mluvčího.
- Dobrý úsudek při hodnocení jazyka a obsahu.
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné, a vysvětlit své odůvodnění.
- Velká pozornost k jemným chybám, nesrovnalostem a opomenutím.
- Schopnost spolehlivě dodržovat pokyny a standardy kvality.
- Schopnost srozumitelně vysvětlovat své odůvodnění technickému i netechnickému publiku.
- Flexibilita při práci na různých projektech, ve zpracování různých typů úkolů a pro různé zákazníky.
- Ochota pracovat jako nezávislý dodavatel.
- Uchazeči nesmějí být kandidáty programů H-1B ani STEM OPT.
- Výhodou jsou zkušenosti nebo specializace v oblasti adversariálního strojového učení, kybernetické bezpečnosti, sociotechnických rizik nebo kreativního zkoumání.
Benefity
- Plně vzdálená práce.
- Flexibilní pracovní doba.
- Možnost dobrovolné účasti na projektech s vyšší citlivostí.
- Pokyny a zdroje pro podporu duševní pohody u projektů zahrnujících citlivý obsah.
- Týdenní platby prostřednictvím Stripe nebo Wise.
- Konkurenceschopná odměna.
- Možnost spolupracovat s předními výzkumníky.
- Odměny za doporučení až 90 USD za každé úspěšné doporučení.