51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI — angličtina a gudžarátština (práce na dálku na smlouvu)
Testujte špičkové modely a agenty AI z hlediska bezpečnostních zranitelností pomocí adversariálních konverzací včetně jailbreaků, prompt injection, zneužití, předpojatosti a manipulace. Vytvářejte anotované datové sady, scénáře útoků a reprodukovatelné bezpečnostní zprávy v angličtině a gudžarátštině.
Popis
- Provádět adversariální testování konverzačních modelů a agentů AI zaměřené na jailbreaky, prompt injection, zneužití, využívání předpojatosti a vícekrokovou manipulaci
- Vytvářet data připravená lidmi pomocí anotování selhání, kategorizace zranitelností a identifikace systémových rizik
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a scénáře útoků
- Posuzovat výstupy AI týkající se citlivých témat včetně předpojatosti, dezinformací a škodlivého chování
- Identifikovat slabiny, které automatizované metody hodnocení nedokážou odhalit
- Rozšiřovat pokrytí hodnocení a pomáhat tak omezovat neočekávané problémy v produkčním prostředí
- Zlepšovat systémy AI zákazníků prostřednictvím strukturovaného adversariálního testování
Požadavky
- Plynulá znalost angličtiny a gudžarátštiny na úrovni rodilého mluvčího
- Dobrý úsudek při hodnocení jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné, a své hodnocení vysvětlit
- Pečlivá pozornost k subtilním chybám, nesrovnalostem a opomenutím
- Důsledné používání taxonomií, benchmarků, playbooků, pokynů a standardů kvality
- Schopnost jasně sdělovat své uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Výhodou je praxe v oblasti adversariálního strojového učení, kybernetické bezpečnosti, sociotechnických rizik nebo kreativního testování AI
- Je nutné pracovat jako nezávislý dodavatel
- Uchazeči s vízy H-1B a STEM OPT nejsou podporováni
Benefity
- Plně vzdálená pozice
- Flexibilní rozvrh s možností zvolit si vlastní pracovní dobu
- Týdenní platby prostřednictvím Stripe nebo Wise
- Projekty mohou být prodlouženy, zkráceny nebo předčasně ukončeny podle obchodních potřeb a pracovního výkonu
- Dobrovolná účast na projektech zahrnujících obsah s vyšší mírou citlivosti
- Jasné pokyny a zdroje pro podporu duševní pohody při úkolech s citlivým obsahem
- Přiměřené úpravy jsou k dispozici na vyžádání
- Možnost získat zkušenosti s red teamingem AI založeným na datech vytvářených lidmi
- Spolupráce s předními výzkumníky
- Odměny za doporučení až do výše 90 USD za každé úspěšné doporučení s ohledem na platné limity