云基础设施高级软件工程师（圣卡洛斯混合办公）
负责 Beacon AI 航空系统的安全 AWS 云基础设施和 LLM 平台开发。 构建 RAG、机器学习基础设施、数据管道及生产环境云运营能力。
描述
- 负责 Beacon AI 的 AWS 基础和 LLM 平台开发
- 设计、配置、维护和运营安全、可靠且可扩展的 AWS 基础设施
- 为应用、基础设施和机器学习工作流开发 CI/CD 管道及测试
- 管理安全网络、IAM、KMS、Secrets Manager 和审计日志
- 通过 AWS Bedrock 和 SageMaker 运营模型端点
- 开发通过 API 访问 LLM 的应用服务，支持流式处理、批处理和退避机制
- 使用 LangChain 或类似框架实现提示词和工具执行工作流
- 为结构化、非结构化、时间序列和多媒体数据设计分块、嵌入、摄取和处理管道
- 使用 OpenSearch Serverless、带 pgvector 的 Aurora PostgreSQL 或 Pinecone 运营向量搜索
- 构建和维护知识库，并同步来自 S3、Aurora、DynamoDB 及外部来源的数据
- 创建评估系统，衡量质量、延迟、回归、遥测、令牌消耗和成本
- 实施护栏、速率限制、故障回退、提供商路由、PII 检测、脱敏、访问控制、内容过滤和审计跟踪
- 使用 Glue、Lake Formation、S3、Glacier、Athena 及相关 AWS 服务开发数据管道
- 管理通过安全消息传递、身份认证和无线更新连接边缘设备的基础设施
- 与产品和应用团队协作，将检索服务、嵌入和 LLM 链集成到面向用户的功能中
- 为云服务和机器学习服务提供高级故障排查
- 改进检索质量、上下文窗口效率、缓存、推理、模型选择、硬件选型和自动扩展
- 负责从系统设计到生产运营的交付，包括值班支持和持续改进
任职要求
- 至少具备 8 年专业经验，或拥有相关硕士学位及 5 年相关经验
- 具备构建和运营数据管道的经验
- 使用 AWS CDK 等基础设施即代码工具设计、部署和维护过云基础设施
- 构建过可靠的 CI/CD 和测试系统
- 在生产环境中交付或运营过 LLM 驱动的应用
- 了解 RAG 架构、提示词版本管理，以及使用 LangChain 或类似框架进行链编排
- 深入了解包括 VPC、IAM、KMS、CloudWatch、S3、ECS/EKS、Lambda、Step Functions、Bedrock 和 SageMaker 在内的 AWS 服务
- 使用 Python 构建过摄取和转换管道
- 熟悉 Glue、Athena、EventBridge 和 SQS
- 了解最小权限访问、机密管理、网络隔离和合规实践
- 应用过量化评估、A/B 测试和线上运营指标
- 属于美国人士（U.S. Person）
- 依法获准在美国工作
- 能够在无需就业签证赞助或签证转移的情况下工作
- 愿意在旧金山湾区工作或搬迁至该地区
- 能够每周至少三天在加利福尼亚州圣卡洛斯现场工作
福利待遇
- 公司承担员工医疗保险保费的 100%，以及家属保费的 25%
- 三周带薪休假
- 至少 13 个带薪公司假日
- 提供 401(k) 计划
- 提供股权
- 混合办公安排的其他工作日可远程办公