高級人工智慧訓練基礎架構工程師
負責開發用於大型人工智慧模型的分散式 GPU 訓練基礎架構。提升大規模生產訓練的可靠性、效率、容錯能力與營運水準。
說明
- 在大規模 GPU 叢集上建構並擴展大型人工智慧模型的分散式訓練基礎架構
- 設計提升訓練可靠性、效率與資源利用率的系統
- 開發用於檢查點儲存、復原與大規模訓練營運的容錯解決方案
- 與平台、編排及效能工程團隊合作，將人工智慧模型整合至生產訓練管線
- 調查並解決影響訓練吞吐量、穩定性、可靠性與成本效益的問題
- 建立工具與自動化方案，改善人工智慧研究人員與工程師的工作體驗
- 制定訓練基礎架構、營運與平台可靠性的最佳實務
- 作為工程團隊的早期成員，參與塑造人工智慧基礎架構平台
職位要求
- 具備建構與營運分散式訓練系統或大規模機器學習基礎架構的實務經驗
- 具備支援大型人工智慧模型、基礎模型、後訓練工作流程或同類機器學習系統的經驗
- 深入了解多節點 GPU 訓練中的可靠性、可擴展性與效率挑戰
- 具備將訓練系統連接至生產機器學習管線的經驗
- 具備進階程式設計能力，並有複雜分散式系統的工作經驗
- 能夠獨立領導技術要求高的專案
- 具備使用 PyTorch Distributed、DeepSpeed、Megatron-LM、Ray 或同類技術進行分散式訓練的經驗
- 具備監督式微調、人類回饋強化學習或其他後訓練方法的經驗
- 具備在超大規模雲端服務商、人工智慧研究組織、雲端服務提供者或 GPU 雲端環境中營運大規模人工智慧訓練基礎架構的經驗
- 具備最佳化 GPU 利用率、訓練效能或分散式系統可靠性的背景
- 熟悉 Kubernetes、容器化人工智慧工作負載與大規模基礎架構平台
- 必須具備美國工作授權
- 目前無法提供簽證贊助
福利待遇
- 部分職位會根據個人績效提供績效加薪、年度獎金與長期激勵
- 為美國員工提供醫療、牙科與視力保險
- 提供附公司配對提撥的 401(k) 計畫
- 每個日曆年提供帶薪假日
- 混合辦公安排