Valarian
Valarian
Valarian 為商業企業與政府機構開發資料主權與安全基礎設施。其平台面向國防、醫療保健及其他受監管產業的組織,協助它們在履行當地合規義務的同時保護敏感資訊。Valarian 專注於資料在地化、細緻的存取管理、可稽核性,以及抵禦網路威脅、網路中斷、資料外洩和地緣政治風險的韌性。公司支援跨境營運的組織,在不限制其創新能力與國際競爭力的情況下,協助它們維持對資料的掌控。

Valarian 資深 MLOps 工程師

在 Valarian 負責正式環境中的大型語言模型應用與代理式 AI 基礎架構;該公司專注於軍民兩用安全技術。 管理 Kubernetes 部署、可觀測性、資料管線與服務可靠性。

說明

  • 負責正式環境中大型語言模型應用與代理式 AI 平台的部署、監控、編排及可靠性。
  • 在高吞吐量 Kubernetes 叢集上設計並營運大型語言模型服務、代理式應用與支援 AI 工作負載。
  • 透過 CI/CD 管線自動化容器部署、可擴充推論端點,以及藍綠或金絲雀發布。
  • 維護正式環境中的代理式 AI 工作流程,包括多步驟工具執行、狀態管理與代理程式間協調。
  • 調查並解決涵蓋 AI 應用程式邏輯、編排框架、外部 API 與雲端基礎架構的問題。
  • 開發監控與評估系統,以追蹤輸出準確度、漂移、延遲、成本和幻覺指標。
  • 加入代理程式執行路徑的追蹤層級可視性,包括提示、生成內容、工具呼叫與個別步驟。
  • 監控並改善即時與批次資料管線、特徵儲存、向量索引及嵌入更新。
  • 管理 GPU 與 CPU 資源、記憶體、自動擴縮及雲端成本,以縮短首個 token 生成時間並提升吞吐量。

職位要求

  • 至少三年 MLOps、LLMOps、平台工程、AI 基礎架構,或專注於機器學習工作負載的 SRE 經驗。
  • 具備在 Kubernetes(例如 EKS、GKE、AKS 或裸機環境)上大規模部署及營運複雜容器化應用程式的實務經驗。
  • 具備扎實的 Python 技能,可用於後端自動化、系統除錯、自訂工具及整合。
  • 熟悉 Prometheus、Grafana、Datadog 或 OpenTelemetry 等監控與記錄工具,以及 LangSmith、Phoenix/Arize、Langfuse 或 TruLens 等大型語言模型追蹤與評估平台。
  • 熟悉 GitHub Actions、GitLab CI 或 ArgoCD 等現代 CI/CD 系統,以及 Terraform 或 Pulumi 等基礎架構即程式碼工具。
  • 深入了解代理式架構、提示鏈、函式呼叫與工具執行,以及應用程式行為的非確定性。
  • 具備執行檢索增強生成(RAG)管線與正式環境向量資料庫的實務經驗者佳。
  • 熟悉代理程式開發與編排框架者佳。
  • 接觸過高效能大型語言模型服務引擎與框架者佳。
  • 了解 AI 安全實務、速率限制或成本控管者佳。

福利待遇

  • 股權。
  • 具競爭力的薪酬。
  • 雇主提撥退休金。
  • 私人健康保險。
  • 混合辦公安排。
  • 健身房會籍。
  • 公司舉辦休閒活動與聚會,旨在支持工作與生活平衡。

相關職缺