AI研究工程師——核心與推理最佳化，歐洲遠端
最佳化GPU核心、模型服務與推理系統，為Tether區塊鏈驅動的數位金融平台提供支援。提升行動裝置與邊緣裝置上的延遲、吞吐量與記憶體效率。
說明
- 設計並部署模型服務架構，最大化吞吐量、降低延遲並有效運用記憶體。
- 提升資源受限裝置與邊緣平台上的推理效能。
- 設定延遲、權杖回應時間與記憶體占用的效能目標。
- 在模擬環境與正式環境中建置、執行並監控受控推理測試。
- 監控延遲、吞吐量、記憶體使用量與錯誤率等效能指標。
- 記錄迭代結果，並與既有的跨平台基準進行比較。
- 針對低資源部署條件開發測試資料集與模擬情境。
- 評估運算效率並找出服務管線中的瓶頸。
- 最佳化批次處理、網路延遲、記憶體使用量、可擴展性與可靠性。
- 與跨職能團隊合作，將最佳化後的服務與推理框架整合至正式環境的邊緣及裝置端管線。
- 建立成功指標，持續監控效能並反覆改進解決方案。
職位要求
- 具備計算機科學或相關學科的學位。
- 具備自然語言處理、機器學習或相關領域博士學位者優先。
- 具備AI研究與開發經驗，並在A*級會議發表過高水準論文。
- 熟悉Metal著色語言（MSL）。
- 能夠從零開始建立自訂計算著色器。
- 具備在行動裝置上最佳化低階核心與推理的經驗。
- 有證據顯示曾針對特定領域應用改善推理延遲、吞吐量與記憶體占用。
- 深入理解現代模型服務架構與推理最佳化方法。
- 具備為智慧型手機及其他行動裝置撰寫GPU核心的豐富經驗。
- 深入掌握模型服務框架與推理引擎。
- 具備在資源受限裝置上開發並部署端到端推理管線的實務經驗。
- 能將實證研究應用於涉及延遲、運算瓶頸與記憶體限制的服務挑戰。
- 熟悉設計評估框架並反覆改進最佳化方法。
- 具備分散式推理系統經驗，包括張量平行、管線平行與專家平行。
- 深入理解擴散模型與視覺Transformer的數學原理及架構。
- 了解剪枝、量化、Flash Attention、KV快取，以及使用Eagle進行推測解碼。
福利待遇
- 可在世界任何地方遠端工作。
- 與國際團隊合作。
- 參與金融科技、區塊鏈、人工智慧與數位金融產品的建設。