
資深 AI 工程師,AI 基礎系統
為 Capital One 銀行產品打造可擴展的基礎模型、大型語言模型與代理系統。 改善成本、延遲、吞吐量、治理及負責任的部署。
說明
- 與工程、研究、專案管理及產品團隊合作,交付 AI 驅動的產品。
- 建置並支援涵蓋基礎模型訓練、大型語言模型推論、代理工作流程、相似度搜尋、防護機制、評估、治理及可觀測性的 AI 元件。
- 運用 AWS Ultraclusters、Hugging Face、向量資料庫及 PyTorch 等開放原始碼與 SaaS 技術。
- 開發基礎模型最佳化方法,以提升可擴展性並改善成本、延遲與吞吐量。
- 協助制定基礎 AI 系統的技術方向及長期藍圖。
- 建置並最佳化協作管線,整合大型語言模型、向量搜尋及領域專用模型。
- 主導成本與效能檢視,監控 GPU 使用率、模型吞吐量及推論效率。
- 主導設計審查,促進技術一致性並確保符合 AI 工程標準。
- 指導 Principal 與 Manager 級 AI 工程師,強化組織的技術能力。
職位要求
- 具備電腦科學、人工智慧、電機工程、電腦工程或相關領域學士學位,並有至少 6 年開發 AI 或機器學習演算法或技術的經驗;或具備相關領域碩士學位,並有至少 4 年此類經驗。
- 至少 6 年使用 Python、Go、Scala、CUDA 或 Java 的程式設計經驗。
- 具備領導 AI 系統開發的經驗,能兼顧成本、延遲、吞吐量與準確度。
- 至少 7 年在雲端平台部署可擴展且負責任的 AI 解決方案的經驗。
- 具備設計、開發、交付及支援複雜 AI 系統的經驗。
- 具備使用 Python、C++、C#、Java、CUDA 或 Go 開發 AI 或機器學習演算法或技術的經驗。
- 具備最佳化訓練與推論軟體的經驗,涵蓋硬體使用率、延遲、吞吐量及成本。
- 具備建置代理式 AI 系統與工作流程的經驗。
- 具備設計異質 AI 系統架構,並將其整合至統一正式環境管線的經驗。
- 具備制定並落實合乎倫理的 AI 部署標準的經驗,包括可解釋性、公平性及人工審查。
- 能運用動態推論策略及模型壓縮,平衡模型效能與營運成本。
- 具備適當調整模型規模、執行個體數量及硬體類型的經驗。
- 具備良好的溝通與簡報能力。
- 關注目前的 AI 研究,並有興趣將新技術應用於正式環境。
福利待遇
- 提供績效型獎酬,包括現金獎金及/或長期獎酬。
- 提供全面、具競爭力且具包容性的健康、財務及其他福利,支持整體福祉。
- 符合資格的新申請者可獲考慮提供工作授權擔保。
- 為身心障礙申請者提供合理便利措施。


