首席人工智能架构师,智能体系统
负责 FourKites 人工智能智能体的整体架构,涵盖模型、上下文管理与评估。 构建支撑人工智能供应链数字员工的平台。
描述
- 负责 FourKites 人工智能智能体的架构,涵盖执行、上下文、模型与评估。
- 制定智能体参考架构,涵盖循环、工具使用、状态、检查点、重试、恢复、安全防护、权限和人工交接。
- 设计持久的多步骤工作流,使其能够跨越上下文窗口,并从工具、承运商 API 和模型故障中恢复。
- 针对不同问题选择合适方案,从前沿模型或开放权重模型,到微调编码器或传统代码。
- 管理智能体集群中的模型路由、单任务成本和延迟目标。
- 将智能体连接到 Kafka、微服务、Postgres、客户 API 和 MCP 服务器。
- 在令牌限制内,为提示词、工具、检索内容、记忆和历史轮次制定上下文窗口标准。
- 构建共享工具,用于检索、上下文压缩、摘要生成、子智能体隔离、提示词缓存和持久记忆。
- 调查上下文故障,并将解决方案转化为可复用的执行模式。
- 利用生产环境轨迹、基于代码的检查、经校准的 LLM 评审打分和 CI 回归套件,开发离线评估系统。
- 通过生产环境评分、质量指标、漂移监控、影子发布和 A/B 发布、反馈信号及质量告警,开发在线评估。
- 将评估指标与跟踪准确率、自动化异常处理和预约填充率等结果关联起来。
- 审查设计和拉取请求,编写架构文档与运维手册,并指导资深及高级工程师。
- 跟进模型与工具的发展,开展实验,并就自建、采购或暂缓采用提出建议。
- 与产品、解决方案和客户成功团队合作,将一线问题转化为平台改进。
任职要求
- 曾为真实用户和生产流量设计并运营 LLM 智能体系统,涵盖工具调用、多步骤工作流、故障处理和升级给人工处理。
- 曾在 LLM 智能体系统上线后负责运营,管理事故、成本和延迟。
- 具备深厚的机器学习知识,包括注意力机制、位置编码、编码器与解码器架构、分词和 KV 缓存。
- 曾训练或微调编码器模型,例如 BERT 系列模型、句向量、双编码器和交叉编码器重排序模型。
- 理解对比训练、知识蒸馏和量化。
- 曾管理令牌预算,并为智能体构建检索与记忆能力。
- 使用过上下文压缩和子智能体,并衡量上下文窗口逐渐填满时的质量。
- 曾构建智能体执行层,涵盖循环、工具分发、状态与检查点、中断与恢复、沙箱与权限、安全防护及模型路由。
- 熟练使用 MCP、结构化输出和流式处理。
- 曾构建离线和在线评估套件,涵盖数据集、评分器、LLM 评审校准、CI 回归门禁、生产评分、轨迹抽样、漂移监控、影子部署和反馈循环。
- 拥有 10 年以上软件或机器学习系统经验,其中 3 年以上使用 LLM 构建产品或系统的经验。
- 具备扎实的 Python 实践能力。
- 能够熟练阅读和审查 Java 或 TypeScript 服务。
- 拥有 AWS 或 GCP、容器、Kubernetes 和事件驱动系统的生产经验。
- 能够通过书面和口头方式有效沟通。
- 优先条件:拥有供应链、物流或运输行业经验。
- 优先条件:拥有文档人工智能、OCR、版面模型经验,并曾从提单、发票和交付证明文件中提取数据。
- 优先条件:拥有构建代表企业采取行动的语音或电子邮件智能体的经验。
- 优先条件:拥有智能体安全经验,包括提示词注入防御、工具权限和租户数据隔离。
- 优先条件:拥有使用 Claude、GPT、Gemini、开放权重模型和模型服务技术栈的经验。
- 优先条件:曾发表或演讲智能体、检索或评估相关内容,或为相关开源项目作出贡献。
福利待遇
- 具有竞争力的薪酬和股票期权。
- 五天全球 Recharge 假期。
- 慷慨的带薪休假和常规节假日。
- 所有家长均可享受育儿假。
- 年度健康津贴。
- 志愿服务假。
- 入职第一天即可享受医疗福利。
- 共 36 天带薪休假,涵盖病假、事假和年假。
- 五天 Recharge 假期。
- 两天志愿服务假。
- 居家办公设备和技术报销。
- 生活方式及家庭福利。
- 心理健康支持与指导。
- 持续的学习与发展机会,包括专业发展计划和 Toastmasters 演讲俱乐部。
