51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI (angličtina a telugština) — práce na dálku na smlouvu
Provádějte red-teamová hodnocení konverzačních modelů a agentů AI pro společnost Mercor se zaměřením na bezpečnost v angličtině a telugštině. Vytvářejte data o zranitelnostech, případy útoků a reprodukovatelné zprávy na podporu bezpečnějšího vývoje AI.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, injektáže promptů, scénářů zneužití, využívání předpojatosti a vícekrokové manipulace
- Anotovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika
- Používat taxonomie, benchmarky a příručky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků pro zákazníky
- Posuzovat výstupy AI týkající se předpojatosti, dezinformací, škodlivého chování a dalších citlivých témat
- Přispívat k projektům zaměřeným na trénování a zlepšování systémů AI
- Identifikovat zranitelnosti, které automatizované testování neodhalí
- Rozšiřovat pokrytí hodnocení a pomáhat tak omezovat neočekávané problémy v produkčním prostředí
Požadavky
- Rodilá nebo plynulá znalost angličtiny a telugštiny
- Dobrý úsudek při posuzování přesnosti, úplnosti a vhodnosti odpovědí AI
- Schopnost jasně vysvětlit své úvahy technickému i netechnickému publiku
- Pečlivá pozornost k drobným chybám, nesrovnalostem a opomenutím
- Důsledné dodržování pokynů a standardů kvality
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Ochota pracovat jako nezávislý dodavatel
- Nesmíte být kandidátem na vízum H-1B ani STEM OPT; mezi relevantní specializace mohou patřit adversariální strojové učení, datové sady jailbreaků, injektáž promptů, útoky RLHF/DPO, extrakce modelů, penetrační testování, vývoj exploitů, reverzní inženýrství, testování obtěžování nebo dezinformací, analýza zneužití, testování konverzační AI, psychologie, herectví nebo psaní.
- benefity
Benefity
- Plně vzdálená práce podle rozvrhu, který si sami nastavíte
- Týdenní platby prostřednictvím Stripe nebo Wise za poskytnuté služby
- Získání zkušeností s red-teamingem AI založeným na lidských datech a zaměřeným na bezpečnost nejmodernějších systémů
- Pomoc při tvorbě odolnějších, bezpečnějších a důvěryhodnějších systémů AI
- Možnost zvolit si účast na projektech s vyšší citlivostí
- Přístup k jasným pokynům a zdrojům pro podporu duševní pohody v projektech s vyšší citlivostí
- Možnost požádat o přiměřená opatření
- Až 90 USD za každé úspěšné doporučení bez uvedeného limitu počtu doporučení