高级 AI 训练基础设施工程师
负责在新一代云平台上为大规模 AI 模型构建分布式 GPU 训练基础设施。提升训练系统的可靠性、效率、容错能力和生产就绪度。
描述
- 在大规模 GPU 集群上构建并扩展大型 AI 模型的分布式训练基础设施
- 创建并优化提升训练可靠性、效率和资源利用率的系统
- 开发用于检查点、恢复和大规模训练操作的容错解决方案
- 与平台、编排和性能工程团队合作,将 AI 模型集成到生产训练流水线中
- 调查并解决影响训练吞吐量、稳定性、可靠性和成本效率的问题
- 开发工具和自动化方案,改善 AI 研究人员和工程师的使用体验
- 为训练基础设施、运维工作流和平台可靠性制定最佳实践
- 作为工程团队的早期成员,参与塑造 AI 基础设施平台
- 与基础设施、编排、性能和机器学习团队合作
任职要求
- 具备构建和运营分布式训练系统或大规模机器学习基础设施的实践经验
- 具备支持大型 AI 模型、基础模型、后训练工作流或同类机器学习系统的经验
- 深入理解多节点 GPU 训练在可靠性、可扩展性和效率方面的挑战
- 具备将训练系统连接到生产机器学习流水线的经验
- 具备较强的编程能力以及复杂分布式系统的工作经验
- 能够独立负责技术要求高的项目
- 能够适应较大的职责范围和较少的流程限制
- 优先考虑:具备 PyTorch Distributed、DeepSpeed、Megatron-LM、Ray 或类似技术的经验
- 优先考虑:具备监督微调(SFT)、基于人类反馈的强化学习(RLHF)或其他后训练工作流的经验
- 优先考虑:具备在超大规模云服务商、AI 研究机构、云服务提供商或 GPU 云环境中大规模运营 AI 训练基础设施的经验
- 优先考虑:具备优化 GPU 利用率、训练性能或分布式系统可靠性的经验
- 优先考虑:熟悉 Kubernetes、容器化 AI 工作负载和大规模基础设施平台
- 需要具备美国工作授权
- 目前不提供签证赞助
福利待遇
- 部分职位符合基于绩效的加薪条件
- 部分职位符合年度奖金资格
- 部分职位提供长期激励
- 为美国员工提供医疗保险
- 为美国员工提供牙科保险
- 为美国员工提供视力保险
- 401(k) 计划
- 公司 401(k) 匹配缴款
- 每个日历年度均享有带薪节假日
