Valarian
Valarian
11 – 50 员工
医疗保健咨询国防
Valarian 为商业企业和政府机构开发数据主权与安全基础设施。其平台面向国防、医疗保健及其他受监管行业的组织,帮助它们在履行本地合规义务的同时保护敏感信息。Valarian 专注于数据本地化、精细化访问管理、可审计性,以及抵御网络威胁、网络中断、数据泄露和地缘政治风险的韧性。公司支持跨境运营的组织,在不限制其创新能力和国际竞争力的情况下,帮助它们保持对数据的控制。

Valarian 高级 MLOps 工程师

在 Valarian 负责生产级大语言模型应用和智能体 AI 基础设施;该公司专注于军民两用安全技术。 管理 Kubernetes 部署、可观测性、数据管道和服务可靠性。

描述

  • 负责生产级大语言模型应用和智能体 AI 平台的部署、监控、编排与可靠性保障。
  • 在高吞吐量 Kubernetes 集群上设计和运营大语言模型服务、智能体应用及配套 AI 工作负载。
  • 通过 CI/CD 管道自动化容器部署、可扩展推理端点以及蓝绿或金丝雀发布。
  • 维护生产环境中的智能体 AI 工作流,包括多步工具执行、状态管理和智能体间协作。
  • 排查并解决涉及 AI 应用逻辑、编排框架、外部 API 和云基础设施的问题。
  • 构建监控与评估系统,跟踪输出准确性、漂移、延迟、成本和幻觉指标。
  • 增加对智能体执行路径的跟踪级可见性,涵盖提示词、模型回复、工具调用和各个步骤。
  • 监控并改进实时与批处理数据管道、特征存储、向量索引和嵌入更新。
  • 管理 GPU 和 CPU 资源、内存、自动扩缩容及云成本,以缩短首个令牌生成时间并提升吞吐量。

任职要求

  • 至少三年 MLOps、LLMOps、平台工程、AI 基础设施或专注于机器学习工作负载的 SRE 经验。
  • 具备在 Kubernetes(如 EKS、GKE、AKS 或裸机环境)上大规模部署和运营复杂容器化应用的实践经验。
  • 具备扎实的 Python 能力,可用于后端自动化、系统调试、自定义工具和集成。
  • 熟悉 Prometheus、Grafana、Datadog 或 OpenTelemetry 等监控和日志工具,以及 LangSmith、Phoenix/Arize、Langfuse 或 TruLens 等大语言模型跟踪与评估平台。
  • 熟悉 GitHub Actions、GitLab CI 或 ArgoCD 等现代 CI/CD 系统,以及 Terraform 或 Pulumi 等基础设施即代码工具。
  • 深入理解智能体架构、提示词链、函数调用与工具执行,以及应用行为的非确定性。
  • 具备运行检索增强生成(RAG)管道和生产级向量数据库的实践经验者优先。
  • 熟悉智能体开发与编排框架者优先。
  • 了解高性能大语言模型服务引擎和框架者优先。
  • 了解 AI 安全实践、速率限制或成本控制者优先。

福利待遇

  • 股权。
  • 有竞争力的薪酬。
  • 雇主养老金缴款。
  • 私人医疗保险。
  • 混合办公安排。
  • 健身房会员资格。
  • 公司组织的休养活动和聚会,旨在支持工作与生活平衡。

相关职位