編譯器前端工程師（大型語言模型架構）
擴展編譯器對新興大型語言模型架構的支援，涵蓋注意力變體、MoE 路由、量化方案與數值格式。 在 Normal Computing 的記憶體內 AI 硬體上，使用模擬器與 FPGA 原型驗證模型導入。
說明
- 擴展前端與中端編譯器對新興大型語言模型架構的支援。
- 在編譯器中實作注意力變體、MoE 路由方案及其他架構。
- 擴充中介表示法（IR）、運算子與降階流程，準確表示新的架構原語。
- 隨著編譯器演進，持續維護測試涵蓋率。
- 表示量化方案與數值格式，同時維持模型準確度。
- 掌握大型語言模型架構的發展，並為未來的編譯器支援建議優先順序。
- 將降階後的程式交由後端編譯器工程師進行硬體映射。
- 與大型語言模型服務工程師合作，將模型從編譯器支援推進至服務部署。
- 在矽晶片可用之前，使用模擬器與 FPGA 原型驗證編譯器導入。
職位要求
- 具備開發並交付機器學習編譯器流程的實務經驗。
- 熟悉 PyTorch 內部機制，最好包括 TorchDynamo、FX 與 torch.export。
- 了解現代大型語言模型架構，包括注意力機制、MoE 路由與量化方案。
- 能在新的程式碼庫中設計編譯器基礎架構，並擴充既有架構。
- 能為持續演進的硬體建置軟體，涵蓋模擬到導入驗證階段。
- 熟練使用 Python。
- 熟悉 C++ 或 Rust。
- 具備 IREE、XLA 或 TVM 經驗者尤佳。
- 熟悉 JAX 或 ONNX 者尤佳。
- 具備使用張量平行、管線平行或專家平行在多個裝置間切分模型的經驗者尤佳。
- 具備軟硬體協同設計經驗者尤佳。
- 具備非標準硬體或記憶體內硬體目標經驗者尤佳。
- 曾參與開源編譯器或機器學習基礎架構專案者尤佳。
福利待遇
- 可從事與研究密切相關的工作，並有機會代表 Normal Computing 發表成果。
- 使用模擬器與 FPGA 原型開發晶片製造前的硬體。
- 包容的職場環境，並承諾提供平等就業機會。
- 為身心障礙人士提供合理便利。
