Ambush
Ambush
Ambush 是一家以人為本的顧問公司,協助組織建立並整合遠端設計與工程團隊。公司透過長期合作提供軟體開發與設計服務,服務領域包括醫療保健、金融及隱私。其做法著重於尋覓優秀人才、支持人才留任,並協助遠端團隊在客戶組織中有效運作。

資深 Python 工程師,代理式 AI — 巴西遠端

在 Ambush(一家工程、設計與策略公司)打造多代理大型語言模型服務。 工作涵蓋串流 API、Kubernetes 部署及安全的 AI 整合。

說明

  • 建置並維護協調大型語言模型代理的 Python 服務
  • 開發代理之間的路由與任務委派
  • 透過 A2A 協定和代理卡片啟用代理間通訊
  • 建立可隨結果產生即時回傳的串流 API
  • 透過工具呼叫和提示範本,使用 AWS Bedrock/Anthropic、Azure OpenAI 或類似平台連接大型語言模型
  • 為應用程式加入可觀測性和大型語言模型追蹤
  • 診斷分散式環境中的問題
  • 將服務封裝並部署至容器和 Kubernetes 叢集
  • 以 mTLS 保護服務對服務的通訊
  • 管理憑證生命週期
  • 支援 CI/CD 管線並採用完善的版本控制實務

職位要求

  • 精通 Python
  • 具備 A2A 協定和多代理委派的實務經驗
  • 熟悉 asyncio,包含非同步產生器、佇列、並行生產者和工作取消
  • 具備建立可逐步回傳結果之串流 API 的經驗
  • 具備使用 Pydantic AI、LangGraph 或類似工具等代理式框架的經驗
  • 具備工具呼叫、代理路由和 Jinja2 提示範本的經驗
  • 具備整合 AWS Bedrock/Anthropic、Azure OpenAI 或同類平台等大型語言模型 API 的經驗
  • 具備使用 OpenTelemetry 及 Arize Phoenix 等大型語言模型追蹤工具的經驗
  • 具備使用 Splunk、Datadog 或類似工具調查多個 Pod 日誌的經驗
  • 具備使用 Docker 的經驗,包括多階段建置、私人登錄檔和開發容器
  • 具備部署至 Kubernetes,並使用服務、Ingress、探針、kubectl 和 k9s 的經驗
  • 具備以用戶端身分使用 mTLS 並管理憑證生命週期的經驗
  • 具備 Git 和 GitHub Actions 的使用經驗
  • 優秀的溝通能力
  • 英語能力熟練
  • 具備資深職級所需的經驗
  • 優先條件:具備記錄軟體生命週期的經驗,尤其是在受監管環境中
  • 優先條件:具備製藥、醫療保健或生命科學專案經驗

福利待遇

  • 以人為本、支持充分、值得信賴且能賦權的工作環境
  • 建立在相互支持基礎上的協作團隊文化
  • 有意義的長期工作與合作關係

相關職缺