機器學習演算法映射與效能工程師,核心機器學習
將機器學習訓練與推理演算法映射至 Cerebras AI 晶片架構。 建立效能瓶頸模型、對系統進行基準測試,並為軟硬體協同設計提供依據。
說明
- 建立先進機器學習訓練與推理演算法的分析型及實證型效能模型
- 評估不同模型大小、序列長度、批次大小、平行度與硬體規模下的漸近行為及演算法取捨
- 建立涵蓋模型品質、延遲、吞吐量、記憶體用量、通訊與計算成本的帕累托前沿
- 為 Cerebras WSE 建立原型實作與基準測試,並與相關 GPU 及軟體基線比較
- 研究系統行為,找出核心、編譯器、執行階段、通訊與演算法瓶頸
- 評估平行 token 生成、擴散模型與推測解碼、注意力機制、稀疏性、混合專家、低精度計算及分散式訓練等新興方法
- 與研究、核心、編譯器、執行階段、推理及架構團隊合作,確定實作與協同設計重點
- 建立用於預測效能、分析測量結果及比較設計取捨的工具與視覺化方案
- 透過技術報告、簡報與設計審查,呈現結論、假設、限制與建議
- 制定核心機器學習研究重點、實作選擇以及未來軟硬體能力的發展方向
職位要求
- 具備電腦科學、電腦工程、電子工程、數學或相關領域的學士、碩士、博士學位,或同等實務經驗
- 深入了解電腦架構、平行運算與系統效能
- 扎實掌握機器學習基礎與機器學習系統
- 具備分析型效能建模、演算法複雜度分析、基準測試或系統模擬經驗
- 展現優秀的分析推理與問題解決能力
- 熟練使用 Python,並具備 C++ 工作知識
- 具備在機器學習、高效能運算、CPU、GPU 或加速器系統中進行效能分析與除錯的經驗
- 能夠結合數學分析、實驗驗證與實際工程建議
- 優先考慮:具備 roofline 分析、CPU 或 GPU 模擬器、核心最佳化或軟硬體協同設計經驗
- 優先考慮:熟悉 CUDA、Triton、PyTorch、JAX 或開源大型語言模型訓練與推理系統
- 優先考慮:了解 Transformer 內部機制、注意力變體、KV 快取策略、模型平行、稀疏性、量化與平行生成
- 優先考慮:在機器學習系統、電腦架構或計算效率領域擁有研究論文、專利或重要開源貢獻
- 優先考慮:具備評估未來硬體或軟體架構技術選擇的經驗
福利待遇
- 有機會發表並開源先進人工智慧研究成果
- 與全球速度最快的人工智慧超級電腦之一合作
- 兼具新創活力與工作穩定性
- 坦率直接、非企業化的文化,尊重個人信念
- 持續提供學習、發展與支援機會
- 致力於打造平等且多元的工作環境
