巴西高级后端 AI 开发工程师(混合办公)
通过后端开发、LLM 集成和分布式系统架构, 推进 CI&T 的多云 AI 平台发展。
描述
- 构建并改进 AI 平台的核心组件,包括模型治理、提供商、租户和使用策略。
- 设计并优化路由、负载均衡、故障回退,以及 LLM 使用和成本控制。
- 在公共云环境中集成 LiteLLM 和模型提供商。
- 改进 API、服务和可观测性,以支持平台的性能、可用性、可扩展性和可靠性。
- 调查事故和复杂的生产问题,找出根本原因并提出持久改进方案。
- 通过评估权衡因素、技术风险以及对使用该平台产品的影响,参与架构决策。
- 指导团队遵循工程标准和良好实践,并支持同事的职业成长。
- 与使用该平台的团队合作,完善解决方案并解决集成问题。
任职要求
- 具备扎实的 Kotlin 或 Java 和/或 Node.js 后端开发经验。
- 具备分布式系统、API 和高可用服务的设计经验。
- 具备公共云平台、Docker、Kubernetes 和 CI/CD 流水线方面的经验。
- 了解 LLM 和生成式 AI 应用架构。
- 具备通过至少一家主要云端 LLM 提供商集成模型的经验,例如 Azure OpenAI、Azure AI Foundry、AWS Bedrock 或 GCP Vertex AI。
- 了解 LLM 运维,包括路由、故障回退、流式处理和用量管理。
- 具备使用指标、日志和链路追踪观测及排查分布式系统问题的经验。
- 了解 PostgreSQL 和/或 MongoDB。
- 了解 RAG、AI 智能体和智能体式 AI 概念。
- 具备在复杂环境中做出技术和架构决策并担任技术顾问的经验。
- 具备使用 LiteLLM 以及 AI Gateway、LLM Gateway 或 Model Gateway 架构的实践经验。
- 具备在生产环境中运营多个 LLM 提供商的经验。
- 了解 MCP(模型上下文协议)。
- 具备使用 LangChain、LangGraph、Semantic Kernel 或类似框架的经验。
- 了解 Langfuse、OpenTelemetry、Prometheus 或 Grafana 等 LLM 可观测性工具。
- 了解向量数据库、语义搜索和 RAG 架构。
- 具备 AI 应用防护机制、安全和访问控制方面的经验。
- 具备 Helm、GitOps 方面的经验,或构建 AI 编程工具和智能体的经验。
福利待遇
- 医疗和牙科保险。
- 餐食和食品补贴。
- 托育补助。
- 延长的育儿假。
- 通过 Wellhub(Gympass)和 TotalPass 提供健身、健康与福祉合作项目。
- 利润分享和绩效奖金(PLR)。
- 人寿保险。
- 通过 CI&T University 持续学习。
- 折扣俱乐部。
- 免费的线上平台,支持身体和心理健康与福祉。
- 孕期与负责任育儿课程。
- 与线上学习平台合作。
- 语言学习平台。
- 为残障人士提供支持和便利安排。
- 专属健康与福祉团队。
- 包容性专家和兴趣社群。
