51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI (angličtina a kannadština) — vzdálený kontrakt v USA
Mercor hledá specialistu na red teaming AI, který plynně ovládá angličtinu a kannadštinu a bude testovat nejmodernější modely na zranitelnosti. Práce zahrnuje vytváření reprodukovatelných útoků, evaluačních datových sad a zpráv o rizicích pro projekty trénování AI na datech vytvářených lidmi.
Popis
- Testovat konverzační modely AI a AI agenty pomocí jailbreaků, injektáže promptů, scénářů zneužití, využívání zkreslení a vícekrokové manipulace
- Vytvářet anotace dat vytvářených lidmi dokumentováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Připravovat reprodukovatelné zprávy pro zákazníky, datové sady a případy útoků
- Posuzovat odpovědi AI na citlivá témata včetně zkreslení, dezinformací a škodlivého chování
- Prověřovat systémy AI na slabá místa, která může automatizované testování přehlédnout
- Rozšiřovat pokrytí hodnocení s cílem omezit neočekávané problémy v produkčním prostředí
- Podporovat trénování a zlepšování nejmodernějších modelů pro laboratoř AI společnosti Mercor a firemní zákazníky
Požadavky
- Rodilá nebo rodilé úrovni odpovídající znalost angličtiny i kannadštiny
- Zdravý úsudek při posuzování přesnosti, úplnosti a vhodnosti odpovědí AI
- Jasné komunikační dovednosti pro vysvětlování způsobu uvažování technickému i netechnickému publiku
- Pečlivost při odhalování drobných chyb, nesrovnalostí a opomenutí
- Důslednost při používání taxonomií, benchmarků, playbooků, pokynů a standardů kvality
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Schopnost pracovat jako nezávislý dodavatel
- Nesmí být vyžadováno sponzorování H-1B ani STEM OPT; tyto možnosti sponzorování nejsou podporovány
- Výhodou jsou relevantní zkušenosti s adversariálním strojovým učením, kybernetickou bezpečností, sociotechnickými riziky, testováním konverzační AI, psychologií, herectvím nebo nekonvenčním adversariálním psaním
Benefity
- Plně vzdálená práce s možností samostatně si nastavit pracovní dobu
- Týdenní platby prostřednictvím Stripe nebo Wise za poskytnuté služby
- Možnost zvolit si, zda se zapojíte do projektů s citlivějším obsahem
- Přístup k jasným pokynům a zdrojům na podporu duševní pohody při úkolech s citlivým obsahem
- Konkurenceschopná odměna
- Praktické zkušenosti s red teamingem AI založeným na datech vytvářených lidmi
- Spolupráce s předními výzkumníky
- Možnost v případě potřeby požádat o přiměřené úpravy
- Odměny za doporučení až 90 USD za každé úspěšné doporučení