
Capital One AI工程師:代理式AI與MLX平台服務
為Capital One產品打造基礎模型、代理式工作流程與生成式AI平台服務。 提升服務銀行客戶的AI系統之可擴充性與正式環境效能。
說明
- 與工程、研究、專案管理及產品團隊合作,交付AI驅動的產品。
- 建置並營運AI軟體,涵蓋基礎模型訓練、LLM推論、代理工作流程、搜尋、防護機制、評估、治理及可觀測性。
- 使用開源與SaaS AI工具,包括AWS Ultraclusters、Hugging Face、向量資料庫及PyTorch。
- 開發基礎模型最佳化方案,以提升規模、成本效益、延遲及吞吐量。
- 協助制定基礎AI系統的技術方向與長期路線圖。
- 主導複雜AI系統的端到端架構,並重視可維護性、可觀測性及倫理一致性。
- 制定並監控AI可靠性目標,涵蓋延遲、正常運作時間及模型效能漂移。
- 與基礎架構工程師合作,提高GPU與TPU使用率並加速推論流程。
- 審查AI部署的安全性、資料治理及法規遵循情況。
- 指導Principal與Senior Associate,提升其可擴充設計、效能調校及將研究成果投入正式環境的能力。
職位要求
- 擁有電腦科學、人工智慧、電機工程、電腦工程或相關領域的學士學位,並具備至少4年開發AI或ML演算法或技術的經驗;或擁有相關碩士學位,並具備至少2年此類經驗。
- 至少4年使用Python、Go、Scala、CUDA或Java的程式設計經驗。
- 具備領導AI系統開發,並在成本、延遲、吞吐量及準確率之間做取捨的經驗。
- 至少6年在雲端平台部署可擴充且負責任的AI解決方案之經驗。
- 具備設計、開發、交付及支援AI服務的經驗。
- 具備使用Python、C++、C#、Java、CUDA或Go開發AI或ML演算法或技術的經驗。
- 具備依硬體使用率、延遲、吞吐量及成本最佳化訓練與推論軟體的經驗。
- 具備建置代理式AI系統與工作流程的經驗。
- 熟悉設計用於PB級模型訓練、評估及線上推論的分散式系統。
- 具備制定AI模型治理、血緣追蹤及自動重新訓練排程的經驗。
- 展現影響多個AI產品線或平台架構決策的能力。
- Capital One可能為符合資格的新進申請者提供此職位的工作授權擔保。
福利待遇
- 依績效提供獎勵薪酬,可能包括現金獎金及/或長期獎勵。
- 提供全面且具競爭力的健康、財務及其他福利,支持整體福祉。
- 為身心障礙申請者提供合理便利。


