Capital One 是一家提供金融服務與金融科技服務的公司，業務涵蓋信用卡、汽車貸款、銀行業務與儲蓄產品。公司結合金融專業知識、科技與數位工具，致力於改善客戶管理資金的方式。其職涯發展方向包括在多元共融的工作環境中打造以客戶為導向的解決方案。
AI 工程師 5，基礎模型託管與大型語言模型推理
負責基礎模型託管、大型語言模型推理與代理式 AI 基礎架構的開發和最佳化。 打造可擴展且負責任的系統，提升 Capital One 的 AI 能力與銀行服務體驗。
說明
- 與工程師、研究科學家、技術專案經理和產品經理合作，交付 AI 驅動的產品
- 設計、開發、測試、部署和支援 AI 軟體，涵蓋基礎模型訓練、大型語言模型推理、代理、多代理工作流程、相似度搜尋、防護機制、評估、實驗、治理和可觀測性
- 應用開源和 SaaS AI 技術，包括 AWS Ultraclusters、Hugging Face、向量資料庫和 PyTorch
- 開發基礎模型最佳化方法，提升生產環境 AI 系統的可擴展性、成本效益、延遲和吞吐量
- 協助制定基礎 AI 系統的技術願景和長期路線圖
- 設計並最佳化多模型編排管線，結合大型語言模型、向量搜尋和領域專用模型
- 主導成本與效能治理審查，涵蓋 GPU 使用率、模型吞吐量和推理效率
- 主持設計委員會或審查委員會，促進技術一致性並遵循 AI 工程標準
- 指導 Principal 級和 Manager 級 AI 工程師，同時提升組織的技術成熟度
職位要求
- 具備計算機科學、人工智慧、電機工程、計算機工程或相關領域學士學位，並至少有 6 年開發 AI 或 ML 演算法與技術的經驗；或具備相關碩士學位，並至少有 4 年相關經驗
- 至少 6 年使用 Python、Go、Scala、CUDA 或 Java 的程式設計經驗
- 具備領導 AI 系統開發的經驗，並能平衡成本、延遲、吞吐量和準確率
- 至少 7 年在雲端平台部署可擴展且負責任的 AI 解決方案的經驗
- 具備設計、開發、交付和支援複雜 AI 系統的經驗
- 具備開發 AI 或 ML 技術的經驗，例如大型語言模型推理、相似度搜尋、向量資料庫、防護機制和記憶功能
- 具備針對硬體使用率、延遲、吞吐量和成本最佳化訓練與推理軟體的經驗
- 具備建構代理式 AI 系統和工作流程的經驗
- 具備將異質 AI 系統設計並整合為統一生產管線的經驗
- 具備制定並執行負責任 AI 部署標準的經驗，包括可解釋性、公平性和人在迴路審查
- 能透過動態推理策略和模型壓縮，在模型效能與營運成本之間取得平衡
- 具備適當調整模型規模、執行個體數量和硬體類型的經驗
- Capital One 可能為符合資格的新申請人提供就業授權擔保
福利待遇
- 以績效為基礎的獎勵薪酬可能包括現金獎金和/或長期獎勵
- 全面、具競爭力且包容的健康、財務及其他福利，旨在支持整體福祉
- 可為身心障礙申請人提供合理便利