機器學習工程師，模型導入
將 Transformer 模型導入 Cerebras AI 加速器硬體，並最佳化其推論效能。開發 MLIR 編譯器路徑，同時提升模型正確性、延遲、吞吐量與記憶體效率。
說明
- 透過分析架構、轉換權重、實作執行路徑，並根據參考實作驗證結果，將新模型投入生產環境。
- 使用 MLIR 方言、圖形轉換、降階通道和硬體專用映射，將模型降階至 Cerebras 硬體。
- 透過編譯器和核心開發，支援注意力、矩陣乘法、正規化、位置嵌入及其他運算子。
- 最佳化運算子融合、張量配置、分塊、記憶體配置、資料移動和並行執行。
- 透過調整 KV 快取管理、批次處理和量化，改善預填充與解碼效能，提升延遲、吞吐量和記憶體使用效率。
- 分析數值差異，並評估精度變化與編譯器最佳化對準確率的影響。
- 使用效能分析器、執行追蹤和硬體計數器，找出計算、記憶體、通訊和執行階段瓶頸。
- 與硬體、編譯器、核心和執行階段團隊合作，交付可靠的模型支援和可重現的效能基準。
職位要求
- 精通 C++ 和 Python 程式設計。
- 具備在 PyTorch 或同類框架中導入和除錯機器學習模型的實務經驗。
- 具備 MLIR 實務經驗，熟悉方言、重寫模式、轉換通道和降階管線。
- 了解編譯器基礎，包括中間表示、資料流分析和程式碼生成。
- 理解 Transformer 架構、注意力機制、張量運算和數值精度。
- 具備在 GPU 或其他 AI 加速器上分析和最佳化工作負載的經驗。
- 能夠跨模型程式碼、編譯器輸出、核心和執行階段執行，診斷正確性與效能問題。
- 具備大型語言模型推論經驗，包括 GQA、滑動視窗注意力、混合專家、KV 快取和推測解碼。
- 具備 FP16、BF16、FP8 或低位元量化經驗，並了解其準確率與效能取捨。
- 具備開發加速器核心或硬體專用編譯器後端的背景。
- 熟悉分散式執行、模型平行和加速器記憶體階層。
- 曾參與 MLIR、LLVM、推論框架或相關開源專案。
福利待遇
- 在新創公司節奏的環境中獲得穩定的工作。
- 有機會發表先進 AI 研究成果並將其開源。
- 與全球最快的 AI 超級電腦之一合作。
- 直接、不企業化的文化，尊重個人信念。
- 持續學習、職涯成長和支援。
- 公平且多元的工作環境。
