人工智能与大语言模型高级软件工程师
为 Beacon AI 的航空安全平台构建并运营生产级大语言模型能力。 负责检索、工具调用、评估以及可靠的服务交付。
描述
- 构建检索增强生成和工具调用工作流
- 生成经过验证的 JSON 及符合架构约束的输出，并实现重试和回退处理
- 将函数调用连接至内部工具、搜索、路由和数据服务
- 使用明确的契约、流式处理和退避机制开发 Python 或 TypeScript API 与工作进程
- 通过缓存、请求整形、提示词模板和上下文打包管理延迟与成本
- 集成 AWS Bedrock、OpenAI、Anthropic 及自托管端点提供的基础模型服务
- 协助制定面向文档、时间序列和多媒体数据的分块、嵌入与索引策略
- 选择并优化包括 OpenSearch、pgvector 和 Pinecone 在内的向量数据库
- 保持知识库与 S3、Aurora、DynamoDB 及外部数据源同步
- 为提示词、检索器和工具开发离线评估及黄金数据集
- 定义生产指标，包括任务成功率、幻觉率、检索精确率与召回率、p95 延迟及单次请求成本
- 开展 A/B 测试，并通过金丝雀部署管理受控的提示词和版本发布
- 实施内容与策略防护、个人身份信息检测与脱敏、访问控制及审计跟踪
- 为敏感操作创建人工审核工作流
- 通过链路追踪、日志和仪表板对模型调用进行监控，跟踪令牌使用量、错误和饱和度
- 调查检索系统、提示词、工具及模型提供商相关的问题
- 与产品、基础设施、机器学习和安全团队合作，交付可靠的航空系统
- 为 Beacon AI 平台打造面向用户的大语言模型能力，让飞行更安全、更高效且功能更强
任职要求
- 拥有 5 至 8 年工作经验，其中包括交付生产级机器学习或大语言模型系统的经验
- 具备面向用户发布大语言模型功能并通过数据持续改进的实践经验
- 具备扎实的生产软件开发、测试和文档编写能力
- 了解嵌入、分块、向量搜索权衡及函数调用
- 具备创建评估、定义成功指标并基于证据迭代的经验
- 能够监控 p95 延迟、满足服务级别协议，并在保持质量的同时降低成本
- 能够在较少监督下从设计到生产全程负责功能交付
- 具备 Bedrock、OpenSearch Serverless、pgvector、Pinecone 或 Weaviate 经验者优先
- 具备提示词版本管理、防护机制和模型提供商路由经验者优先
- 具备时间序列或视频等多模态数据经验者优先
- 熟悉 GPU 推理、Triton 或 TensorRT-LLM 者优先
- 有航空业或其他安全关键行业经验者优先
- 具备 CI/CD、基础设施即代码和安全机密管理知识者优先
- 必须符合美国人士资格
- 必须依法获准在美国工作
- 不提供签证赞助或签证转移
- 所有工作必须在美国境内完成
- 必须居住在旧金山湾区，或愿意搬迁至该地区
- 必须每周至少三天到加利福尼亚州圣卡洛斯现场办公
- 必须能够从事全职工作
福利待遇
- 录用待遇包含股权
- 公司承担员工医疗保险保费的 100%
- 公司承担家属医疗保险保费的 25%
- 三周带薪休假
- 至少 13 天带薪公司假日
- 提供 401(k) 计划
- 混合办公安排中其余工作日可灵活远程办公