51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI — angličtina a gudžarátština
Provádějte adversariální testování partnerských modelů a agentů AI s cílem odhalovat zranitelnosti, zaujatost a škodlivé chování. Vytvářejte anotované datové sady, případy útoků a reprodukovatelné zprávy, které zlepšují hodnocení pokročilých systémů AI.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, injektování promptů, scénářů zneužití, využívání zaujatosti a vícekrokové manipulace
- Vytvářet lidmi generovaná data anotováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a metodiky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků pro zákazníky
- Hodnotit odpovědi AI týkající se zaujatosti, dezinformací, škodlivého chování a dalších citlivých témat
- Odhalovat slabá místa, která automatizované testování nezachytí
- Rozšiřovat pokrytí hodnocení s cílem pomáhat omezovat neočekávané problémy v produkčním prostředí
- Zlepšovat systémy AI zákazníků prostřednictvím strukturovaného adversariálního testování
Požadavky
- Požaduje se plynulá znalost angličtiny a gudžarátštiny na úrovni rodilého mluvčího
- Prokazatelný úsudek při hodnocení jazyka a obsahu, včetně schopnosti posoudit, zda jsou odpovědi AI přesné, úplné a vhodné, a své hodnocení vysvětlit
- Velká pozornost k jemným chybám, nesrovnalostem a opomenutím
- Schopnost důsledně uplatňovat pokyny a standardy kvality
- Schopnost jasně komunikovat způsob uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, typech úkolů a pro různé zákazníky
- Spolupráce je strukturována jako vztah s nezávislým dodavatelem
- Uchazeči nesmějí být kandidáty programů H-1B ani STEM OPT
- Výhodou je zkušenost s adversariálním strojovým učením, kybernetickou bezpečností, sociotechnickými riziky nebo kreativním hledáním zranitelností
Benefity
- Plně vzdálená práce podle rozvrhu, který si sami řídíte
- Týdenní platby prostřednictvím Stripe nebo Wise za poskytnuté služby
- Možnost zvolit si účast na projektech s vyšší citlivostí
- Přístup k jasným pokynům a zdrojům pro podporu duševní pohody při práci s citlivým obsahem
- Konkurenceschopné odměňování
- Spolupráce s předními výzkumníky
- Odměny za doporučení až do výše 90 USD za každé úspěšné doporučení, s výhradou příslušných limitů