Capital One 是一家提供金融服务和金融科技服务的公司，业务涵盖信用卡、汽车贷款、银行业务和储蓄产品。公司将金融专业知识与技术及数字工具相结合，致力于改善客户管理资金的方式。其职业发展方向包括在多元包容的工作环境中打造以客户为导向的解决方案。
AI 工程师 5，基础模型托管与大语言模型推理
负责基础模型托管、大语言模型推理和智能体 AI 基础设施的开发与优化。 构建可扩展且负责任的系统，提升 Capital One 的 AI 能力和银行服务体验。
描述
- 与工程师、研究科学家、技术项目经理和产品经理协作，交付 AI 驱动的产品
- 设计、开发、测试、部署和支持 AI 软件，涵盖基础模型训练、大语言模型推理、智能体、多智能体工作流、相似性搜索、防护机制、评估、实验、治理和可观测性
- 应用开源和 SaaS AI 技术，包括 AWS Ultraclusters、Hugging Face、向量数据库和 PyTorch
- 开发基础模型优化方法，提升生产环境 AI 系统的可扩展性、成本效率、延迟和吞吐量
- 协助制定基础 AI 系统的技术愿景和长期路线图
- 设计并优化多模型编排流水线，将大语言模型、向量搜索和领域专用模型结合起来
- 牵头开展成本与性能治理评审，涵盖 GPU 利用率、模型吞吐量和推理效率
- 主持设计委员会或评审委员会，推动技术一致性并确保遵循 AI 工程标准
- 指导 Principal 级和 Manager 级 AI 工程师，同时提升组织的技术成熟度
任职要求
- 计算机科学、人工智能、电气工程、计算机工程或相关领域学士学位，并至少有 6 年开发 AI 或 ML 算法和技术的经验；或相关硕士学位，并至少有 4 年相关经验
- 至少 6 年使用 Python、Go、Scala、CUDA 或 Java 的编程经验
- 具备领导 AI 系统开发的经验，并能平衡成本、延迟、吞吐量和准确率
- 至少 7 年在云平台上部署可扩展且负责任的 AI 解决方案的经验
- 具备设计、开发、交付和支持复杂 AI 系统的经验
- 具备开发 AI 或 ML 技术的经验，例如大语言模型推理、相似性搜索、向量数据库、防护机制和记忆功能
- 具备针对硬件利用率、延迟、吞吐量和成本优化训练与推理软件的经验
- 具备构建智能体 AI 系统和工作流的经验
- 具备将异构 AI 系统设计并集成为统一生产流水线的经验
- 具备制定并执行负责任的 AI 部署标准的经验，包括可解释性、公平性和人在回路审查
- 能够通过动态推理策略和模型压缩，在模型性能与运营成本之间取得平衡
- 具备合理调整模型规模、实例数量和硬件类型的经验
- Capital One 可能为符合条件的新申请人提供就业授权担保
福利待遇
- 基于绩效的激励薪酬可能包括现金奖金和/或长期激励
- 全面、有竞争力且包容的健康、财务及其他福利，旨在支持整体福祉
- 可为残障申请人提供合理便利