Zoox 機器學習效能最佳化工程經理
負責 Zoox 自動駕駛系統的機器學習效能最佳化。 帶領機器人團隊實現可擴充訓練、GPU 加速與低延遲推論。
說明
- 制定機器學習訓練與推論最佳化的策略方向和路線圖
- 提升自動駕駛工作負載的可擴充性、可靠性和效能
- 負責涵蓋模型訓練、驗證、服務、最佳化和監控的高效機器學習平台
- 端到端最佳化大規模模型訓練與推論
- 提升分散式訓練效率,同時改善 GPU 使用率、記憶體使用和通訊效率
- 使用量化、剪枝、蒸餾及其他模型壓縮方法
- 在嚴格的即時性和計算資源限制下,實現車載低延遲推論
- 透過招募與領導力建設並激勵多元化工程團隊
- 與機器學習研究、軟體、資料和硬體工程團隊合作
- 制定需求並引導架構決策
- 透過發展機會和及時回饋指導工程師成長
職位要求
- 至少 8 年相關工作經驗,其中包括 3 年或以上工程團隊管理經驗
- 深入掌握機器學習效能最佳化,包括分散式訓練、資料平行、張量平行和管線平行、FSDP/ZeRO、混合精度、CUDA、Triton、torch.compile、XLA、TVM、量化,以及針對 GPU 和嵌入式加速器的效能分析
- 具備為大規模訓練以及高吞吐量、低延遲服務建構易用機器學習基礎設施的經驗
- 具備使用 PyTorch 或 JAX 搭配 GPU 進行分散式模型訓練的經驗
- 具備使用 TensorRT、Ray Serve 或同類框架實現 GPU 加速推論的經驗
- 在與研究、產品、硬體和平台團隊進行跨職能合作方面有出色紀錄
- 能夠設定優先順序、確立技術方向,並推動跨組織實現可量化的效能提升
福利待遇
- 帶薪休假,包括病假、年假和喪假
- 無薪休假
- Zoox 股票增值權
- 亞馬遜限制性股票單位(RSU)
- 健康保險
- 長期照護保險
- 長期和短期失能保險
- 人壽保險
- 可能提供入職獎金
