應用人工智慧研究員——基礎設施與推理
主導人工智慧基礎設施、推理系統與加速器策略的應用研究。影響工程、產品、財務與商業團隊對可擴展人工智慧工作負載的決策。
說明
- 制定公司資料中心基礎設施的長期發展方向
- 追蹤供應商與超大規模雲端服務商的路線圖、研究成果、標準活動，以及電力、冷卻、建設、機架與機房設計、選址、監管和基礎設施經濟學領域的初創企業與創投動態
- 制定並驗證產品與工程團隊關於自行建設、採購或透過合作夥伴推進的方案
- 根據成本、進度與實體基礎設施限制評估技術方案
- 維護適用於不同 GPU 世代客戶機房的技術參考模型，涵蓋密度、功率範圍、冷卻拓撲與場地容量
- 考察正在運作及潛在的資料中心場地
- 為財務、定價與銷售制定成本模型，包括每個機架、每兆瓦與每 GPU 小時的成本
- 支援銷售與交付團隊參與技術複雜的客戶及合作夥伴討論
- 為產品與市場進入團隊提供可信能力及交付時程方面的建議
- 對基礎設施合作夥伴、主機代管服務商、供應商參考設計及潛在的補強型收購目標進行技術盡職調查
- 驗證電力策略，涵蓋互聯可用性、排隊位置、公用事業與購電協議結構、現場發電、長交期設備、選址及建設順序
- 作為資深個人貢獻者，與工程、產品、基礎設施、財務及商業團隊合作
職位要求
- 具備豐富的現代人工智慧模型實務經驗
- 精通推理，而不僅是模型訓練
- 熟悉一個或多個加速器生態系統
- 具備編譯器、核心或執行階段層面的實務經驗，使用過 CUDA、Triton、ROCm/HIP、XLA 或類似技術
- 熟悉多個晶片生態系統
- 具備人工智慧、機器學習或人工智慧模型技術方面的豐富經驗
- 深入理解人工智慧模型架構與開發流程
- 能夠評估新興人工智慧技術對研究與工程的影響
- 具備一種或多種主要模型類別的經驗，包括語言、視覺、音訊或多模態模型
- 具備推理實務經驗，涵蓋服務部署、最佳化，以及在維持品質的同時降低延遲與成本
- 了解現代服務部署技術堆疊，例如 vLLM、SGLang、TensorRT-LLM 或同類技術
- 具備量化、批次處理與 KV 快取技術的生產環境經驗
- 能夠定量分析服務成本，並建立經得起財務與商業審查的模型
- 必須具備美國工作許可
- 目前無法提供簽證贊助
- 資格可能需要接受美國出口管制審查，並在適用時取得許可
- 願意並能夠依需要進行國際出差，最多佔工作時間的 25%
- 優先條件：熟悉前沿實驗室、開放權重模型提供商、服務部署與推理初創企業、晶片供應商及相關研究團隊
- 優先條件：具備應用研究經驗，能夠利用第一手資料、論文、模型卡、供應商路線圖或基準測試，在不確定性下形成有理有據的判斷
- 優先條件：能夠向工程、產品、市場進入與財務團隊傳達研究成果
- 優先條件：擁有參與多個資料中心建設專案與供應商參考設計的經驗
- 優先條件：擁有液冷或超過 100 kW 高密度機架部署經驗
- 優先條件：擁有新資料中心機房調試、容量規劃或交付移交經驗
- 優先條件：擁有論文、專利、標準組織參與經歷或較活躍的外部基礎設施領域影響力
- 相關領域的博士學位是可行途徑之一，但不是必要條件
福利待遇
- 每週約三天在辦公室工作
- 可能需要前往資料中心與主機代管設施進行國際出差，最多佔工作時間的 25%
- 參與高影響力技術工作，直接影響人工智慧基礎設施策略
- 擁有較大的職責範圍與自主權，可直接接觸資深技術領導層
- 跨職能接觸人工智慧模型、推理、加速器、軟體系統、網路、基礎設施與經濟學
- 應對多加速器推理、智慧路由、效能最佳化、權杖經濟學以及編譯器、核心與執行階段技術等高階技術挑戰
- 研究成果可直接應用於工程、產品、商業策略與投資決策
- 精簡且資深的工作環境，與經驗豐富的技術貢獻者共事