51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI, angličtina a nizozemština (práce na dálku na smlouvu)
Mercor hledá odborníky na bezpečnost AI se znalostí angličtiny a nizozemštiny pro red teamové testování konverzačních modelů a agentů. Práce zahrnuje vytváření dat o zranitelnostech, scénářů útoků a reprodukovatelných bezpečnostních zpráv pro vývoj pokročilých systémů AI.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, injektování promptů, scénářů zneužití, využívání zkreslení a vícekrokové manipulace
- Vytvářet data připravená lidmi anotováním selhání, klasifikací zranitelností a identifikací systémových rizik
- Používat taxonomie, benchmarky a metodiky pro konzistentní testování bezpečnosti
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků pro zákazníky
- Odhalovat zranitelnosti, které může automatizované testování přehlédnout
- Rozšiřovat rozsah hodnocení s cílem pomáhat snižovat neočekávaná produkční rizika
- Spolupracovat s předními výzkumníky na trénování a zlepšování pokročilých systémů AI
Požadavky
- Plynulá znalost angličtiny a nizozemštiny na úrovni rodilého mluvčího
- Předchozí zkušenost s red teamovým testováním AI, ofenzivní kyberbezpečností nebo sociotechnickým zkoumáním
- Schopnost adversariálně testovat systémy AI a přivádět je do podmínek selhání
- Zkušenost s používáním frameworků nebo benchmarků pro strukturované testování
- Schopnost jasně komunikovat rizika technickému i netechnickému publiku
- Schopnost přizpůsobit se různým projektům a zákazníkům
- Zkušenost s adversariálním strojovým učením, včetně datových sad jailbreaků, injektování promptů, útoků RLHF/DPO nebo extrakce modelů, je výhodou
- Zkušenost s kyberbezpečností, včetně penetračního testování, vývoje exploitů nebo reverzního inženýrství, je výhodou
- Zkušenost se sociotechnickými riziky, včetně zkoumání obtěžování nebo dezinformací, analýzy zneužití či testování konverzační AI, je výhodou
- Zkušenost s kreativním zkoumáním v psychologii, herectví nebo psaní je výhodou
- Je nutné být schopen pracovat jako nezávislý dodavatel
- Uchazeči s vízem H-1B a STEM OPT nejsou podporováni
Benefity
- Plně vzdálená práce
- Flexibilní pracovní doba s možností nastavit si vlastní rozvrh
- Týdenní platby prostřednictvím Stripe nebo Wise podle poskytnutých služeb
- Projekty mohou být prodlouženy, zkráceny nebo předčasně ukončeny podle obchodních potřeb a pracovních výsledků
- Účast na projektech s vyšší citlivostí je dobrovolná
- K dispozici jsou pokyny pro práci s obsahem a zdroje na podporu duševní pohody
- Na vyžádání jsou k dispozici přiměřená opatření
- Konkurenceschopná hodinová mzda
- Možnost získat až 250 USD za každé úspěšné doporučení, s výhradou limitů