高级人工智能训练基础设施工程师
负责开发用于大型人工智能模型的分布式 GPU 训练基础设施。提升大规模生产训练的可靠性、效率、容错能力和运营水平。
描述
- 在大规模 GPU 集群上构建并扩展大型人工智能模型的分布式训练基础设施
- 设计提升训练可靠性、效率和资源利用率的系统
- 开发用于检查点保存、恢复和大规模训练运营的容错解决方案
- 与平台、编排和性能工程团队协作，将人工智能模型集成到生产训练流水线中
- 调查并解决影响训练吞吐量、稳定性、可靠性和成本效率的问题
- 创建工具和自动化方案，改善人工智能研究人员和工程师的工作体验
- 制定训练基础设施、运营和平台可靠性的最佳实践
- 作为工程团队的早期成员，参与塑造人工智能基础设施平台
任职要求
- 具备构建和运营分布式训练系统或大规模机器学习基础设施的实践经验
- 具备支持大型人工智能模型、基础模型、后训练工作流或同类机器学习系统的经验
- 深入理解多节点 GPU 训练中的可靠性、可扩展性和效率挑战
- 具备将训练系统接入生产机器学习流水线的经验
- 具备高级编程能力，并有复杂分布式系统的工作经验
- 能够独立负责技术要求高的项目并取得成果
- 具备使用 PyTorch Distributed、DeepSpeed、Megatron-LM、Ray 或同类技术进行分布式训练的经验
- 具备监督微调、人类反馈强化学习或其他后训练方法的经验
- 具备在超大规模云服务商、人工智能研究机构、云服务提供商或 GPU 云环境中运营大规模人工智能训练基础设施的经验
- 具备优化 GPU 利用率、训练性能或分布式系统可靠性的背景
- 熟悉 Kubernetes、容器化人工智能工作负载和大规模基础设施平台
- 必须具备美国工作授权
- 目前无法提供签证赞助
福利待遇
- 部分职位会根据个人绩效提供绩效加薪、年度奖金和长期激励
- 为美国员工提供医疗、牙科和视力保险
- 提供带公司匹配的 401(k) 计划
- 每个日历年提供带薪节假日
- 混合办公安排