远程信任与安全软件工程师（OpenRouter）
为 OpenRouter 的 AI 路由基础设施构建滥用、欺诈和内容安全系统。 负责检测、执行处置、审核工具和风险分析。
描述
- 设计并运行覆盖注册、支付和使用流程的系统，以尽早识别滥用和欺诈
- 管理从检测到人工审核及跨系统限制的执行处置流程
- 创建调查和执行处置工具，例如案件队列、证据摘要、批量操作和警报
- 交付推理路径上的内容安全能力，包括非法内容检测和报告
- 集成或开发 KYC 系统及外部情报来源，主动识别欺诈和滥用
- 开发支持快速、可扩展执行处置的检测系统、运营工具和启发式规则
- 分析生产数据中的事件，衡量新兴模式，并区分滥用行为与误报
- 实施风险、滥用激增和欺诈监控，同时降低误报率
- 指导滥用预防的技术策略，并建立可复用的工程模式
- 与数据科学家合作探索特征，并训练用于风险和滥用识别的机器学习模型
任职要求
- 至少四年构建和运营生产系统的经验，最好具备信任与安全、欺诈、支付风险、安全或反滥用领域经验
- 熟练使用 React、TypeScript、Next.js 和 JavaScript 运行时
- 能够使用 SQL 查询大型事件数据集
- 深入理解基准率、精确率、召回率，以及错误决策的后果
- 在证据不完整时能够做出稳妥判断
- 责任心强，并积极推动行动
- 采用 AI 优先的工作方式，包括定期使用编码代理和工作流自动化工具
- 能够适应团队边界不断变化的小型快节奏工作环境
- 处理令人不适的材料和敏感用户数据时具备谨慎性与韧性
- 具备出色的书面和口头沟通能力
- 对解决对抗性问题感兴趣
- 优先条件：具备 Stripe Radar、拒付、争议或加密货币支付风险等支付欺诈工具经验
- 优先条件：具备身份验证和 KYC 系统经验
- 优先条件：具备处理与大语言模型相关滥用的经验，包括越狱、提示注入、密钥窃取和转售、共享或抓取的凭据，或自动化养号
- 优先条件：具备使用 ClickHouse 或 BigQuery 等大型分析数据存储及可观测性平台的经验
- 优先条件：熟悉托管式 AI 服务的报告和合规要求
- 优先条件：有使用 OpenRouter 的经验，或曾在 AI 产品、基础设施或开发者工具领域开发个人项目
福利待遇
- 股权激励
- 可在美国境内远程工作