应用人工智能研究员——基础设施与推理
负责人工智能基础设施、推理系统和加速器战略的应用研究。影响工程、产品、财务和商业团队对可扩展人工智能工作负载的决策。
描述
- 制定公司数据中心基础设施的长期发展方向
- 跟踪供应商和超大规模云服务商的路线图、研究成果、标准活动，以及电力、冷却、建设、机架与机房设计、选址、监管和基础设施经济学领域的初创企业与风险投资动态
- 制定并验证产品和工程团队关于自行建设、采购或通过合作伙伴推进的方案
- 根据成本、进度和实体基础设施限制评估技术方案
- 维护适用于不同 GPU 代际客户机房的技术参考模型，涵盖密度、功率范围、冷却拓扑和场地容量
- 考察正在运营和潜在的数据中心场地
- 为财务、定价和销售制定成本模型，包括每个机架、每兆瓦和每 GPU 小时的成本
- 支持销售和交付团队参与技术复杂的客户及合作伙伴讨论
- 为产品和市场进入团队提供可信能力与交付时间方面的建议
- 对基础设施合作伙伴、托管服务商、供应商参考设计和潜在的补强型收购目标开展技术尽调
- 验证电力策略，涵盖互联可用性、排队位置、公用事业和购电协议结构、现场发电、长交期设备、选址及建设顺序
- 作为高级个人贡献者，与工程、产品、基础设施、财务和商业团队协作
任职要求
- 拥有丰富的现代人工智能模型实操经验
- 精通推理，而不只是模型训练
- 熟悉一个或多个加速器生态系统
- 具备编译器、内核或运行时层面的实操经验，使用过 CUDA、Triton、ROCm/HIP、XLA 或类似技术
- 熟悉多个芯片生态系统
- 拥有人工智能、机器学习或人工智能模型技术方面的丰富经验
- 深入理解人工智能模型架构和开发流程
- 能够评估新兴人工智能技术对研究和工程的影响
- 具备一种或多种主要模型类别的经验，包括语言、视觉、音频或多模态模型
- 具备推理实操经验，涵盖服务部署、优化，以及在保持质量的同时降低延迟和成本
- 了解现代服务部署技术栈，例如 vLLM、SGLang、TensorRT-LLM 或同类技术
- 具备量化、批处理和 KV 缓存技术的生产环境经验
- 能够定量分析服务成本，并建立经得起财务和商业审查的模型
- 必须具备美国工作许可
- 目前无法提供签证赞助
- 资格可能需要接受美国出口管制审查，并在适用情况下取得许可
- 愿意并能够根据需要进行国际出差，最多占工作时间的 25%
- 优先条件：熟悉前沿实验室、开放权重模型提供商、服务部署与推理初创企业、芯片供应商及相关研究团队
- 优先条件：具备应用研究经验，能够利用一手资料、论文、模型卡、供应商路线图或基准测试，在不确定性下形成有理有据的判断
- 优先条件：能够向工程、产品、市场进入和财务团队传达研究成果
- 优先条件：拥有参与多个数据中心建设项目和供应商参考设计的经验
- 优先条件：拥有液冷或超过 100 kW 高密度机架部署经验
- 优先条件：拥有新数据中心机房调试、容量规划或交付移交经验
- 优先条件：拥有论文、专利、标准组织参与经历或较为活跃的外部基础设施领域影响力
- 相关领域的博士学位是可行路径之一，但不是必需条件
福利待遇
- 每周约三天在办公室工作
- 可能需要前往数据中心和托管设施进行国际出差，最多占工作时间的 25%
- 参与高影响力技术工作，直接影响人工智能基础设施战略
- 拥有较大的职责范围和自主权，可直接接触高级技术领导层
- 跨职能接触人工智能模型、推理、加速器、软件系统、网络、基础设施和经济学
- 应对多加速器推理、智能路由、性能优化、令牌经济学以及编译器、内核和运行时技术等高级技术挑战
- 研究成果可直接应用于工程、产品、商业战略和投资决策
- 精干且资深的工作环境，与经验丰富的技术贡献者共事