51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI Mercor – angličtina a gudžarátština, vzdálený kontrakt v USA
Provádějte pro Mercor hodnocení bezpečnosti konverzačních modelů a agentů AI vedená člověkem. Vytvářejte údaje o zranitelnostech, scénáře útoků a reprodukovatelná hodnocení bezpečnosti v angličtině a gudžarátštině.
Popis
- Provádět red-team testování konverzačních modelů a agentů AI pomocí jailbreaků, prompt injection, scénářů zneužití, využívání předpojatosti a vícekrokové manipulace
- Anotovat selhání, kategorizovat zranitelnosti a eskalovat systémová rizika
- Používat zavedené taxonomie, benchmarky a playbooky k udržení konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a scénáře útoků
- Posuzovat výstupy AI týkající se předpojatosti, dezinformací, škodlivého chování a dalších citlivých témat
- Odhalovat slabiny, které může automatizované testování přehlédnout
- Rozšiřovat rozsah hodnocení a pomáhat omezovat neočekávané problémy v produkčním prostředí
- Zlepšovat systémy AI zákazníků prostřednictvím red-team testování založeného na datech a vytvářeného lidmi
Požadavky
- Plynulá znalost angličtiny a gudžarátštiny na úrovni rodilého mluvčího
- Správný úsudek při hodnocení jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné, a vysvětlit toto hodnocení
- Velká pozornost k jemným chybám, nesrovnalostem a opomenutím
- Důsledné dodržování pokynů a standardů kvality
- Jasná komunikace odůvodnění technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a se zákazníky
- Ochota pracovat jako nezávislý dodavatel
- Uchazeč nesmí být kandidátem na H-1B ani STEM OPT
- Výhodou jsou odborné znalosti v oblasti adversarial machine learning, kybernetické bezpečnosti, sociotechnických rizik nebo kreativního zkoumání zranitelností
Benefity
- Plně vzdálená kontraktní práce
- Flexibilní rozvržení práce
- Týdenní platby prostřednictvím Stripe nebo Wise
- Možnost účastnit se projektů s vyšší citlivostí
- Pokyny a zdroje pro podporu duševní pohody při práci s citlivým obsahem
- Konkurenceschopná odměna
- Možnost spolupracovat s předními výzkumníky
- Přiměřená opatření jsou k dispozici na vyžádání
- Referral program nabízející až 90 USD za každé úspěšné doporučení