OpenRouter je platforma umelej inteligencie, ktorá vývojárom a tímom poskytuje jednotný spôsob prístupu k veľkým jazykovým modelom od rôznych poskytovateľov a práce s nimi. Jej katalóg modelov zahŕňa možnosti ako Mistral Small 3 a DeepSeek R1 Distill Qwen 32B, ktoré podporujú aplikácie zamerané na rýchlosť, presnosť a flexibilný výber modelu. OpenRouter ponúka aj nástroje na programovanie a tvorbu hier s možným využitím v oblastiach, ako sú marketing, financie a vzdelávanie.
Softvérový inžinier pre dôveru a bezpečnosť na diaľku v OpenRouteri
Budujte systémy na riešenie zneužitia, podvodov a bezpečnosti obsahu pre infraštruktúru smerovania AI služby OpenRouter. Zodpovedajte za detekciu, vymáhanie pravidiel, nástroje na kontrolu a analýzu rizík.
Popis
- Navrhujte a prevádzkujte systémy v registračných, platobných a používateľských procesoch s cieľom včas identifikovať zneužitie a podvody
- Spravujte proces vymáhania pravidiel od detekcie cez ľudskú kontrolu až po obmedzenia naprieč systémami
- Vytvárajte nástroje na vyšetrovanie a vymáhanie pravidiel, ako sú fronty prípadov, súhrny dôkazov, hromadné akcie a upozornenia
- Dodávajte funkcie bezpečnosti obsahu v inferenčnej ceste vrátane detekcie a nahlasovania nezákonného obsahu
- Integrujte alebo vyvíjajte systémy KYC a externé zdroje informácií na proaktívne odhaľovanie podvodov a zneužitia
- Vyvíjajte detekčné systémy, prevádzkové nástroje a heuristiky podporujúce rýchle a škálovateľné vymáhanie pravidiel
- Analyzujte incidenty v produkčných dátach, merajte vznikajúce vzorce a oddeľujte zneužívajúce správanie od falošne pozitívnych výsledkov
- Implementujte monitorovanie rizík, nárastov zneužitia a podvodov a zároveň zlepšujte mieru falošne pozitívnych výsledkov
- Usmerňujte technickú stratégiu prevencie zneužitia a zavádzajte opakovane použiteľné inžinierske postupy
- Spolupracujte s dátovými vedcami na skúmaní príznakov a trénovaní modelov strojového učenia pre riziká a zneužitie
Požiadavky
- Aspoň štyri roky skúseností s vývojom a prevádzkou produkčných systémov, ideálne v oblasti dôvery a bezpečnosti, podvodov, platobných rizík, bezpečnosti alebo boja proti zneužitiu
- Ovládanie technológií React, TypeScript, Next.js a runtime prostredí JavaScriptu
- Schopnosť vyhľadávať v rozsiahlych dátových súboroch udalostí pomocou SQL
- Dôkladné porozumenie základným mieram výskytu, presnosti, úplnosti a dôsledkom nesprávnych rozhodnutí
- Správny úsudok pri neúplných dôkazoch
- Vysoká miera zodpovednosti a výrazná orientácia na konanie
- Prístup zameraný na AI vrátane pravidelného používania kódovacích agentov a automatizácie pracovných postupov
- Ochota pracovať v malom, rýchlom prostredí s meniacimi sa hranicami tímov
- Diskrétnosť a odolnosť pri práci s rušivým materiálom a citlivými údajmi používateľov
- Vynikajúce písomné a ústne komunikačné schopnosti
- Záujem o riešenie adversariálnych problémov
- Výhodou sú skúsenosti s nástrojmi na podvody v platobnom styku, ako sú Stripe Radar, chargebacky, spory alebo riziká kryptoplatob
- Výhodou sú skúsenosti so systémami identity a KYC
- Výhodou sú skúsenosti so zneužitím súvisiacim s LLM vrátane jailbreakov, injektáže promptov, krádeží a ďalšieho predaja kľúčov, zdieľaných alebo zoškrabaných prihlasovacích údajov či automatizovaného zakladania účtov
- Výhodou sú skúsenosti s rozsiahlymi analytickými úložiskami dát, ako sú ClickHouse alebo BigQuery, a platformami observability
- Výhodou je znalosť požiadaviek na nahlasovanie a dodržiavanie predpisov pre hostované služby AI
- Výhodou sú skúsenosti s používaním OpenRoutera alebo s vývojom vlastných projektov v oblasti produktov AI, infraštruktúry či nástrojov pre vývojárov
Benefity
- Kapitálová odmena
- Práca na diaľku v rámci Spojených štátov