STN Incorporated 為企業，以及打造業務關鍵軟體、AI 系統與機器人的團隊提供代管 IT 與雲端基礎架構服務。服務包括專屬 CPU 雲端、GPU One AI 基礎架構、安全網路與儲存，以及持續的雲端營運，並提供 24 小時人工支援和高可用性服務等級協議。公司也負責資安營運與事件應變、法規遵循與風險管理、備份與復原，以及技術採購和生命週期管理。STN 的服務對象包括 SaaS 公司、AI 建置團隊與模型開發者、機器人公司，以及醫療服務提供者等受監管機構；其基礎架構旨在支援稽核準備及 SOC 2 Type II、HIPAA 等框架的要求。
資深推論工作負載最佳化主管
負責在 STN 自主資料中心平台上調校客戶 AI 工作負載的 GPU 效能。 將最佳化專業轉化為可由代理程式執行的修正方案，並管理內部模型服務。
說明
- 分析客戶的訓練與推論工作負載，找出資料載入、集合通訊、記憶體頻寬、核心、批次處理及平行化方面的效能瓶頸。
- 為每一代硬體建立效能基準，並從目前世代的 NVIDIA 系統開始。
- 將最佳化專業轉化為代理程式可套用至客戶叢集的修正方案。
- 與承諾容量的客戶合作調校工作負載，可直接合作或透過客戶的營運團隊進行。
- 次要職責包括管理內部模型服務，例如兼顧成本與延遲的路由，以及模型版本遷移。
- 針對內部推論與客戶工作負載之間的 GPU 配置提供建議。
職位要求
- 具備深厚的 GPU 效能工程專業知識，包含效能分析、記憶體與頻寬行為，以及核心層級的理解。
- 具備 vLLM、SGLang 或 TensorRT-LLM 等服務堆疊的實務知識，了解批次處理、KV 快取管理及量化取捨。
- 具備大規模分散式訓練與推論經驗，涵蓋張量、管線及資料平行化。
- 具備集合通訊調校經驗，例如 NCCL。
- 熟悉 Nsight、DCGM 及框架層級效能分析器等工具。
- 能向客戶說明效能分析結果，並將解決方案整理成代理程式可執行的內容。
- 加分條件：CUDA 核心開發、大規模開放權重模型部署、基準測試設計，以及過往面向客戶的技術經驗。
