CUDA 工程師,LLM 推論(遠端,烏茲別克)
運用 CUDA 核心與服務框架,最佳化現代 GPU 上的 LLM 推論。 加入 MWDN,參與 AI 系統與高效能運算專案。
說明
- 提升現代 GPU 上的 LLM 推論效能。
- 使用 vLLM、SGLang 和 TensorRT-LLM 等推論與服務框架。
- 檢視 GPU 執行、記憶體存取、核心效能和推論瓶頸。
- 建置、調校、除錯或逆向分析 CUDA 核心和底層 GPU 操作。
- 研究矩陣乘法、注意力機制和神經網路層的最佳化方法。
- 對系統進行基準測試,找出改善延遲、吞吐量和 GPU 使用率的方法。
- 處理涵蓋 AI 系統與高效能運算的複雜問題。
- 進行實務實驗並檢視底層系統行為。
職位要求
- 具備豐富的 CUDA 與 GPU 程式設計實務經驗。
- 深入了解 GPU 架構、記憶體階層、平行執行和效能調校。
- 具備 LLM 推論、AI 系統、GPU 核心或高效能運算相關經驗。
- 熟悉 vLLM、SGLang、TensorRT-LLM、Triton 或 FlashAttention 至少一項。
- 能診斷複雜的效能問題並調查底層系統行為。
- 具備出色的問題解決能力。
- 能以英語有效溝通複雜的技術概念。
- 具備電腦科學、機器學習、電腦架構或相關領域的博士學位或研究背景者加分。
- 曾發表研究成果、參與專案,或對 GPU 或 LLM 基礎架構有重要開源貢獻者加分。
- 具備 PyTorch 內部機制、分散式推論、量化、KV 快取調校或自訂 GPU 核心經驗者加分。
- 曾為 vLLM、SGLang、Triton、FlashAttention 或相關程式庫做出貢獻者加分。
福利待遇
- 客戶審核流程旨在降低風險,並支持可靠且準時的付款。
- 提供職涯指導,協助尋找未來機會。
- 提供有關獨立承攬或個人商業、稅務及相關事務的法律建議。
- 提供英語課程與專業發展機會。
- 團隊建立活動。
- 彈性工時。
- 每年 29 天帶薪休假:18 個工作日加國定假日。
- 10 天帶薪休養假。
- 為獨立承攬者提供財務與法律協助。
- 可免費與英語母語者或烏克蘭教師學習英語。
- 專屬人資協助。
- 以人為本的管理方式,官僚流程精簡。
- 友善的公司文化。
相關職缺
找不到職缺
嘗試調整或清除篩選條件,以查看更多機會。
