S
高级后端工程师，AI 平台
为服务数百万用户的社交媒体平台构建生产级大语言模型功能和基础 AI 基础设施。负责检索、模型服务、评估及安全系统。
描述
- 为拥有数百万用户的社交媒体平台开发 AI 功能。
- 与平台架构师和工程团队紧密协作。
- 在全新环境中构建基础 AI 基础设施。
- 随着团队扩展，协助制定工程实践。
- 将服务接入 Ruby on Rails 和 React/TypeScript 应用。
- 负责后端服务的全生命周期，涵盖数据模式设计、部署和 on-call 运维。
- 构建并运营大语言模型服务、检索、评估、监控及安全系统。
任职要求
- 至少五年使用 Go、Java、Kotlin 或 C# 等静态类型语言从事后端工程工作的经验。
- 具备交付生产级大语言模型功能的经验，包括检索增强生成、流式响应和工具调用。
- 具备大语言模型服务基础设施的实战经验，包括多供应商路由、故障切换、令牌流式传输以及成本和用量追踪。
- 具备构建检索系统的经验，包括向量搜索、嵌入流水线、上下文组装和带引用来源的回答。
- 能够监控幻觉、检索故障、供应商服务中断和成本超支。
- 具备评估 AI 回答质量的经验，评估维度包括相关性、安全性、来源质量和结果可复现性。
- 具备扎实的 API 设计能力。
- 能够负责服务的全生命周期，涵盖模式设计、部署和 on-call 支持。
- 常驻美国并获准在美国工作。
- 优先考虑具备 Go 经验者。
- 具备 Python 经验。
- 具备使用 LiteLLM、vLLM 或 TGI 等大语言模型网关或服务工具的经验。
- 具备使用 Qdrant 或 pgvector 等向量数据库以及嵌入流水线的经验。
- 具备使用 LoRA 或全量微调对开放权重模型进行微调的经验。
- 具备内容审核或安全工具的经验。
- 熟悉 Ruby on Rails 或 React/TypeScript。
