51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na red teaming bezpečnosti AI – angličtina a finština, práce na dálku ve Spojených státech
Provádějte útočné testování konverzačních modelů a agentů AI pro projekty společnosti Mercor zaměřené na lidská data pro AI. Vytvářejte reprodukovatelná data o zranitelnostech a pomáhejte posilovat špičkové systémy AI.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, injektáže promptů, scénářů zneužití, využívání zaujatosti a vícekrokové manipulace
- Anotovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika
- Používat zavedené taxonomie, benchmarky a metodiky pro konzistentní hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků pro zákazníky
- Identifikovat zranitelnosti, které může automatizované testování přehlédnout
- Rozšiřovat pokrytí hodnocení a pomáhat omezovat neočekávané problémy v produkčním prostředí
- Spolupracovat s předními výzkumníky na projektech, které trénují a zlepšují systémy AI
Požadavky
- Plynulá nebo rodilá znalost angličtiny a finštiny
- Předchozí zkušenost s red teamingem v oblasti útoků na AI, kyberbezpečnosti nebo sociotechnického testování
- Schopnost provádět útočné testování systémů AI a tlačit je k bodům selhání
- Zkušenost s používáním frameworků nebo benchmarků pro strukturované testování
- Schopnost srozumitelně komunikovat rizika technickému i netechnickému publiku
- Přizpůsobivost při práci na různých projektech a podle požadavků zákazníků
- Dostupnost pro spolupráci jako nezávislý dodavatel
- Kandidát nesmí být kandidátem na H-1B ani STEM OPT
- Výhodou: zkušenost s adversariálním strojovým učením včetně datových sad jailbreaků, injektáže promptů, útoků RLHF/DPO nebo extrakce modelů
- Výhodou: zkušenost s kyberbezpečností v oblasti penetračního testování, vývoje exploitů nebo reverzního inženýrství
- Výhodou: zkušenost se sociotechnickými riziky, včetně testování obtěžování nebo dezinformací, analýzy zneužití či testování konverzační AI
- Výhodou: zkušenost z psychologie, herectví nebo psaní, která podporuje nekonvenční útočné myšlení
Benefity
- Plně vzdálená práce
- Flexibilní pracovní doba
- Týdenní platby prostřednictvím Stripe nebo Wise
- Zdroje pro podporu duševní pohody a jasná pravidla pro projekty s vyšší mírou citlivosti
- Možnost získat zkušenosti s red teamingem AI založeným na lidských datech
- Přímá příležitost pomáhat vytvářet odolnější, bezpečnější a důvěryhodnější systémy AI
- Konkurenceschopné odměňování
- Bonus za doporučení až 250 USD za každé úspěšné doporučení