
資深 Python 工程師,代理式 AI — 巴西遠端
在 Ambush(一家工程、設計與策略公司)打造多代理大型語言模型服務。 工作涵蓋串流 API、Kubernetes 部署及安全的 AI 整合。
說明
- 建置並維護協調大型語言模型代理的 Python 服務
- 開發代理之間的路由與任務委派
- 透過 A2A 協定和代理卡片啟用代理間通訊
- 建立可隨結果產生即時回傳的串流 API
- 透過工具呼叫和提示範本,使用 AWS Bedrock/Anthropic、Azure OpenAI 或類似平台連接大型語言模型
- 為應用程式加入可觀測性和大型語言模型追蹤
- 診斷分散式環境中的問題
- 將服務封裝並部署至容器和 Kubernetes 叢集
- 以 mTLS 保護服務對服務的通訊
- 管理憑證生命週期
- 支援 CI/CD 管線並採用完善的版本控制實務
職位要求
- 精通 Python
- 具備 A2A 協定和多代理委派的實務經驗
- 熟悉 asyncio,包含非同步產生器、佇列、並行生產者和工作取消
- 具備建立可逐步回傳結果之串流 API 的經驗
- 具備使用 Pydantic AI、LangGraph 或類似工具等代理式框架的經驗
- 具備工具呼叫、代理路由和 Jinja2 提示範本的經驗
- 具備整合 AWS Bedrock/Anthropic、Azure OpenAI 或同類平台等大型語言模型 API 的經驗
- 具備使用 OpenTelemetry 及 Arize Phoenix 等大型語言模型追蹤工具的經驗
- 具備使用 Splunk、Datadog 或類似工具調查多個 Pod 日誌的經驗
- 具備使用 Docker 的經驗,包括多階段建置、私人登錄檔和開發容器
- 具備部署至 Kubernetes,並使用服務、Ingress、探針、kubectl 和 k9s 的經驗
- 具備以用戶端身分使用 mTLS 並管理憑證生命週期的經驗
- 具備 Git 和 GitHub Actions 的使用經驗
- 優秀的溝通能力
- 英語能力熟練
- 具備資深職級所需的經驗
- 優先條件:具備記錄軟體生命週期的經驗,尤其是在受監管環境中
- 優先條件:具備製藥、醫療保健或生命科學專案經驗
福利待遇
- 以人為本、支持充分、值得信賴且能賦權的工作環境
- 建立在相互支持基礎上的協作團隊文化
- 有意義的長期工作與合作關係





