
事業部 AI 工程師 III
負責共享 LLM 基礎架構的架構與可靠性,並推動其在各項產品中的採用。 打造可重複使用的編排、可觀測性與正式環境服務。
說明
- 負責平台領域的架構、實作與營運健康,例如代理生命週期與狀態、沙箱脈絡交換、模型編排,或追蹤與評估。
- 設計支援長時間執行工作的服務與介面,使工作在部署、重新啟動與重試後仍具持久性且可復原,並支援檢視與重播。
- 建立可重複使用的方法,在不同執行環境間封裝與擷取脈絡,並明確界定存取、保留與資料移動的範圍。
- 建置並改進模型路由與編排,並定義和採用任務品質、延遲、可靠性及成本的衡量指標。
- 帶領與產品團隊的技術探索,並優先處理可減少重複工程工作與非預期中斷的平台工作。
- 為此領域制定測試、追蹤、評估與營運就緒實務;檢視正式環境訊號並帶領處理複雜事故。
- 撰寫架構文件與遷移指南,協助工程師採用平台功能。
- 指導工程師、審查設計與程式碼,並參與 AI 工程團隊的技術規劃。
- 遵守公司政策以及適用的聯邦、州與地方法律。
- 執行指派的其他職務。
職位要求
- 具備電腦科學、軟體工程或相關技術領域的學士學位,或具同等教育與工作經驗組合。
- 至少五年軟體工程經驗或同等實務經驗,且曾負責正式環境服務。
- 具備建置 LLM 驅動應用程式或 AI 基礎架構的經驗。
- 精通 TypeScript 和/或 Python,並具備設計正式環境服務與 API 的經驗。
- 了解分散式系統、非同步工作處理、持久化、可觀測性、雲端部署與安全系統設計。
- 具備推出並支援 LLM 功能的經驗,並能實際權衡模型行為、延遲與成本。
- 能從模糊問題出發帶領技術工作,完成設計、實作、推出與營運改進。
- 能為產品需求各異的團隊打造可重複使用且易於理解的平台介面。
- 能影響技術決策、溝通風險與權衡,並指導不同資歷的工程師。




