OpenRouter je platforma umělé inteligence, která vývojářům a týmům poskytuje jednotný způsob přístupu k velkým jazykovým modelům od různých poskytovatelů a práce s nimi. Její katalog modelů zahrnuje například Mistral Small 3 a DeepSeek R1 Distill Qwen 32B a podporuje aplikace, u nichž záleží na rychlosti, přesnosti a flexibilním výběru modelu. OpenRouter také nabízí nástroje pro programování a hry s potenciálním využitím v oblastech, jako jsou marketing, finance a vzdělávání.
Vzdálený softwarový inženýr pro důvěru a bezpečnost ve společnosti OpenRouter
Budujte systémy proti zneužití, podvodům a nebezpečnému obsahu pro infrastrukturu směrování AI OpenRouter. Převezmete odpovědnost za detekci, vymáhání pravidel, kontrolní nástroje a analýzu rizik.
Popis
- Navrhovat a provozovat systémy v procesech registrace, plateb a používání služby s cílem včas odhalovat zneužití a podvody
- Řídit proces vymáhání pravidel od detekce přes kontrolu člověkem až po omezení napříč systémy
- Vytvářet nástroje pro vyšetřování a vymáhání pravidel, například fronty případů, souhrny důkazů, hromadné akce a upozornění
- Dodávat funkce bezpečnosti obsahu na inferenční cestě včetně detekce a hlášení nelegálního obsahu
- Integrovat nebo vyvíjet systémy KYC a externí zdroje informací pro proaktivní odhalování podvodů a zneužití
- Vyvíjet detekční systémy, provozní nástroje a heuristiky podporující rychlé a škálovatelné vymáhání pravidel
- Analyzovat incidenty v produkčních datech, sledovat vznikající vzorce a rozlišovat zneužívající chování od falešně pozitivních výsledků
- Implementovat monitoring rizik, nárůstů zneužití a podvodů a současně zlepšovat míru falešně pozitivních výsledků
- Určovat technickou strategii prevence zneužití a vytvářet opakovaně použitelné inženýrské postupy
- Spolupracovat s datovými vědci na zkoumání příznaků a trénování modelů strojového učení pro rizika a zneužití
Požadavky
- Nejméně čtyři roky zkušeností s vytvářením a provozem produkčních systémů, ideálně v oblasti důvěry a bezpečnosti, podvodů, platebních rizik, bezpečnosti nebo prevence zneužití
- Pokročilá znalost Reactu, TypeScriptu, Next.js a běhových prostředí JavaScriptu
- Schopnost dotazovat rozsáhlé datové sady událostí pomocí SQL
- Dobré porozumění základním mírám, přesnosti, úplnosti a důsledkům nesprávných rozhodnutí
- Zdravý úsudek při neúplných důkazech
- Vysoká míra odpovědnosti a silná orientace na akci
- Pracovní styl zaměřený na AI, který zahrnuje pravidelné používání programovacích agentů a automatizace pracovních postupů
- Ochota pracovat v malém, rychlém prostředí s měnícími se hranicemi odpovědnosti týmů
- Diskrétnost a odolnost při práci s obtížným materiálem a citlivými údaji uživatelů
- Výborné písemné a ústní komunikační dovednosti
- Zájem o řešení problémů s aktivními protivníky
- Výhodou: zkušenost s nástroji pro platební podvody, jako je Stripe Radar, vratkami plateb, spory nebo riziky kryptoplateb
- Výhodou: zkušenost se systémy identity a KYC
- Výhodou: zkušenost se zneužitím souvisejícím s LLM, včetně jailbreaků, prompt injection, krádeží a dalšího prodeje klíčů, sdílených nebo odcizených přihlašovacích údajů či automatického zakládání účtů
- Výhodou: zkušenost s rozsáhlými analytickými datovými úložišti, jako jsou ClickHouse nebo BigQuery, a platformami observability
- Výhodou: znalost požadavků na reporting a dodržování předpisů pro hostované služby AI
- Výhodou: zkušenost s používáním OpenRouteru nebo s tvorbou vlastních projektů v oblasti AI produktů, infrastruktury či nástrojů pro vývojáře
Benefity
- Kapitálová kompenzace
- Práce na dálku v rámci Spojených států