51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na red teaming bezpečnosti AI (angličtina a telugština) — práce na dálku na smlouvu
Testujte konverzační modely AI z hlediska jailbreaků, injektáže promptů, zneužití, zaujatosti a dalších bezpečnostních selhání. Dokumentujte reprodukovatelné zranitelnosti a evaluační data pro zákazníky zabývající se výzkumem AI.
Popis
- Provádět adversariální testování konverzačních modelů a agentů AI z hlediska jailbreaků, injektáže promptů, zneužití, využití zaujatosti a vícekrokové manipulace
- Anotovat výsledky testů, kategorizovat zranitelnosti a identifikovat systémová rizika
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a scénáře útoků pro zákazníky
- Posuzovat odpovědi AI na citlivá témata včetně zaujatosti, dezinformací a škodlivého chování
- Odhalovat slabiny, které automatizované evaluační metody nedokážou zachytit
- Rozšiřovat pokrytí evaluací a pomáhat tak předcházet neočekávaným problémům v produkci
- Zlepšovat systémy AI zákazníků pomocí opakovatelného adversariálního testování
Požadavky
- Plynulá znalost angličtiny a telugštiny na úrovni rodilého mluvčího
- Dobrý úsudek při posuzování jazyka a obsahu z hlediska přesnosti, úplnosti a vhodnosti
- Schopnost jasně vysvětlovat své uvažování technickému i netechnickému publiku
- Pečlivá pozornost k jemným chybám, nesrovnalostem a opomenutím
- Schopnost důsledně dodržovat pokyny a standardy kvality
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Spolupráce v roli nezávislého dodavatele
- Schopnost pracovat bez použití důvěrných nebo chráněných informací od jakéhokoli zaměstnavatele, klienta či instituce
- Uchazeči s vízem H-1B a účastníci programu STEM OPT nejsou podporováni
Benefity
- Plně vzdálená práce s možností samostatně si plánovat pracovní dobu
- Týdenní platby za poskytnuté služby prostřednictvím Stripe nebo Wise
- Volitelná účast na projektech zahrnujících citlivější témata
- Pokyny a zdroje na podporu duševní pohody při práci s citlivým obsahem
- Zkušenost s budováním odbornosti v red teamingu AI založeném na datech od lidí
- Příležitost pomáhat vytvářet bezpečnější, odolnější a důvěryhodnější systémy AI
- Příležitosti ke spolupráci s předními výzkumníky
- Odměny za doporučení až 90 USD za každé úspěšné doporučení, s výhradou platných limitů