資深後端工程師，AI 平台
為服務數百萬使用者的社群媒體平台打造正式環境中的大型語言模型功能與基礎 AI 基礎架構。負責檢索、模型服務、評估及安全系統。
說明
- 為擁有數百萬使用者的社群媒體平台開發 AI 功能。
- 與平台架構師及工程團隊密切合作。
- 在全新環境中建立基礎 AI 基礎架構。
- 隨著團隊擴編，協助制定工程實務。
- 將服務串接至 Ruby on Rails 和 React/TypeScript 應用程式。
- 負責後端服務的完整生命週期，涵蓋資料結構設計、部署及 on-call 維運。
- 建置並維運大型語言模型服務、檢索、評估、監測及安全系統。
職位要求
- 至少五年使用 Go、Java、Kotlin 或 C# 等靜態型別語言從事後端工程工作的經驗。
- 具備交付正式環境大型語言模型功能的經驗，包括檢索增強生成、串流回應及工具呼叫。
- 具備大型語言模型服務基礎架構的實務經驗，包括多供應商路由、故障切換、權杖串流，以及成本與用量追蹤。
- 具備建置檢索系統的經驗，包括向量搜尋、嵌入流程、脈絡組裝及附有引用來源的回答。
- 能夠監測幻覺、檢索失敗、供應商服務中斷及成本超支。
- 具備評估 AI 回答品質的經驗，評估面向包括相關性、安全性、來源品質及結果可重現性。
- 具備良好的 API 設計能力。
- 能夠負責服務的完整生命週期，涵蓋結構設計、部署及 on-call 支援。
- 居住於美國且獲准在美國工作。
- 具備 Go 經驗者優先。
- 具備 Python 經驗。
- 具備使用 LiteLLM、vLLM 或 TGI 等大型語言模型閘道或服務工具的經驗。
- 具備使用 Qdrant 或 pgvector 等向量資料庫及嵌入流程的經驗。
- 具備使用 LoRA 或全量微調來微調開放權重模型的經驗。
- 具備內容審核或安全工具的經驗。
- 熟悉 Ruby on Rails 或 React/TypeScript。