LLM 推論硬體演算法研究工程師
為 Normal Computing 的記憶體內 AI 硬體開發 LLM 推論演算法。 與硬體和架構團隊合作，共同設計數值方法、基準測試與原型。
說明
- 為記憶體內硬體上的 LLM 推論工作負載開發演算法。
- 與硬體和架構團隊合作，進行軟硬體共同設計。
- 開發運用熱雜訊與類比動態特性的數值方法。
- 為模擬與實體硬體建置評估架構和基準測試。
- 將對模型工作負載的洞察轉化為硬體設計限制與機會。
- 隨著硬體從模擬邁向矽晶片，製作並改良演算法原型。
- 從閘級與演算法層面提升效能。
- 使用模擬器、FPGA 原型，以及在可用時使用矽晶片測試演算法。
職位要求
- 深入了解大型模型推論，包括注意力機制、KV 快取、長上下文解碼與記憶體頻寬限制。
- 具備運用量化、稀疏化、核心融合或節省記憶體的注意力機制等技術提升推論效能的經驗。
- 熟悉隨機系統、機率方法、數值分析或類比運算。
- 具備貼近硬體實作演算法的經驗，而非僅依賴高階架構。
- 能夠從第一性原理出發，分析新型計算基底。
- 能將理論構想落實為真實硬體實作，並有相關成果。
- 精通 Python，並熟練至少一種系統程式語言。
- 能與硬體、架構和軟體團隊協作。
- 機器學習、應用數學、物理、電機工程或相關領域的博士學位為加分條件。
- 接觸過類比或混合訊號系統、記憶體內運算或非馮紐曼架構者佳。
- 曾參與加入時仍在開發中的硬體專案者佳。
- 曾在高效推論、隨機演算法或新型運算領域發表論文或參與開源專案者佳。
福利待遇
- 包容多元的工作環境，並致力於促進多元共融。
- 為身心障礙人士提供合理調整。
- 享有平等就業機會保障。
相關職缺
找不到職缺
嘗試調整或清除篩選條件，以查看更多機會。