人工智慧研究工程師：模型壓縮與量化
為 Tether 以區塊鏈為基礎的數位金融平台開發大型語言模型與視覺語言模型的壓縮方法。 改進量化、知識蒸餾與剪枝技術，讓生成式 AI 能在邊緣裝置上高效運作。
說明
- 透過低位元量化縮小生成式 AI 模型並降低推論延遲，同時維持準確度與輸出品質。
- 將較大的教師模型蒸餾為較小的學生模型，以支援文字、影像與音訊的多模態推理。
- 剪除冗餘的模型參數與注意力頭。
- 評估模型大小、延遲、記憶體、吞吐量與準確度之間的取捨。
- 研究並運用混合精度量化及其他先進壓縮方法。
- 追蹤多模態與生成式模型架構壓縮領域的研究。
- 建置可靠的壓縮流程，並訂定效能與保真度指標。
- 排除正式環境推論中的瓶頸。
- 為智慧型手機等邊緣裝置開發可擴充的 AI 系統，降低記憶體使用量與延遲。
- 記錄方法、實驗與結果，讓工作可重現並分享。
- 撰寫技術論文，並在 NeurIPS、ICML、ICLR、CVPR、ACL 和 AAAI 等會議發表研究成果。
職位要求
- 具備電腦科學或相關領域學位。
- 具備自然語言處理、機器學習或相關領域博士學位者優先。
- 在 AI 研究與開發方面有扎實的成果紀錄，包括於頂尖會議發表論文。
- 具備 PyTorch 或同類深度學習框架的使用經驗。
- 具備量化感知訓練與訓練後量化的實務經驗。
- 具備知識蒸餾方面的研究與實務經驗。
- 具備模型剪枝方面的研究與實務經驗。
- 了解神經網路架構與訓練，包括 Transformer、大型語言模型、視覺語言模型、反向傳播、最佳化與微調。
- 熟悉 C++ 者佳。
- 能以英語有效溝通。
- 請註明計畫工作的國家。
福利待遇
- 可在世界各地遠端工作。
- 與全球團隊及金融科技、AI 和區塊鏈領域的專家合作。
- 參與數位金融、區塊鏈、AI 與點對點技術產品的開發。
- 有機會撰寫技術論文並於頂尖會議發表。
- 獲得專業領域與研究方面的合作機會。