51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI — angličtina a ásámština (práce na dálku na smlouvu)
Testujte konverzační systémy AI na jailbreaky, zaujatost, rizika vkládání promptů a další zranitelnosti. Vytvářejte jasné a reprodukovatelné materiály založené na lidských datech, které pomáhají zvyšovat bezpečnost a spolehlivost pokročilé AI.
Popis
- Testujte konverzační modely a agenty AI na jailbreaky, vkládání promptů, scénáře zneužití, využívání zaujatosti a vícekrokovou manipulaci
- Vytvářejte anotace založené na lidských datech tak, že budete dokumentovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika
- Používejte zavedené taxonomie, benchmarky a metodiky pro zajištění konzistentního hodnocení
- Dodávejte zákazníkům reprodukovatelné zprávy, datové sady a scénáře útoků
- Odhalujte slabiny, které mohou automatizovanému testování uniknout
- Rozšiřujte pokrytí hodnocení, abyste pomohli minimalizovat neočekávané problémy v produkčním prostředí
- Posuzujte výstupy AI na citlivá témata podle poskytnutých pokynů
Požadavky
- Plynulá znalost angličtiny a ásámštiny na úrovni rodilého mluvčího
- Dobrý úsudek při hodnocení jazyka a obsahu včetně přesnosti, úplnosti a vhodnosti odpovědí AI
- Velká pozornost k jemným chybám, nesrovnalostem a opomenutím
- Důsledné dodržování pokynů a standardů kvality
- Schopnost jasně vysvětlovat odůvodnění technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a se zákazníky
- Postavení nezávislého dodavatele
- Ochota pracovat s citlivými tématy, jako jsou zaujatost, dezinformace a škodlivé chování; účast na projektech s vyšší citlivostí je dobrovolná
- Kandidáti s vízy H-1B a STEM OPT nejsou podporováni
Benefity
- Plně vzdálená práce s flexibilním rozvrhem, který si nastavíte sami
- Týdenní platby prostřednictvím Stripe nebo Wise
- Možnost získat zkušenosti s red teamingem AI založeným na lidských datech
- Praktický příspěvek k vytváření odolnějších, bezpečnějších a důvěryhodnějších systémů AI
- Příležitosti ke spolupráci s předními výzkumníky
- Přiměřená opatření jsou k dispozici na vyžádání
- Odměna za doporučení až 90 USD za každé úspěšné doporučení