
软件工程师,TPU 编译器
通过分析工作负载、构建内核并优化生产执行,提升 OpenAI 前沿模型在 TPU 硬件上的推理性能。
描述
- 优化 TPU 上模型整个前向传播过程的执行,涵盖模型代码、内核和硬件行为。
- 分析工作负载、找出瓶颈,并提升延迟、吞吐量和硬件利用率。
- 为模型工作负载构建并调优内核。
- 评估量化方法,在保持模型质量的同时提高推理效率。
- 创建基准测试和工具,以衡量性能、检查正确性并指导优化工作。
- 与研究人员和工程师合作,支持新模型架构并交付性能改进。
- 主导模型代码、内核和硬件执行各层面的性能优化。
任职要求
- 具备在 TPU 上优化机器学习训练、推理或两者兼有工作负载的实践经验。
- 了解现代模型架构及其计算如何映射到加速器硬件。
- 能够结合软件和硬件层面,将内核级行为与端到端模型性能联系起来。
- 具备扎实的软件工程能力。
- 以系统的方法进行性能分析、调试并验证性能提升。
- 具备量化或注意力内核经验者优先。
- 每周可在旧金山办公室工作三天。
- 获准在该职位所在国家工作。
福利待遇
- 股权。
- 符合条件的员工可获得绩效奖金。
- 为员工及其家人提供医疗、牙科和视力保险,并由雇主为健康储蓄账户缴款。
- 税前健康灵活支出账户、受抚养人护理灵活支出账户,以及停车和公共交通通勤账户。
- 提供雇主配比缴款的 401(k) 计划。
- 分娩父母最多可享 24 周带薪育儿假,非分娩父母最多可享 20 周。
- 最多可享八周带薪医疗及照护假。
- 豁免加班员工可灵活安排带薪休假;非豁免员工每年最多可享 15 天。
- 超过 13 天的公司带薪假日。
- 全年安排数次协调一致的公司办公室带薪关闭假期。
- 带薪病假或安全假。
- 心理健康与身心健康支持。
- 雇主支付的基本人寿和伤残保险。
- 年度学习与发展津贴。
- 符合条件的员工可享每日办公室餐食及餐食配送额度。
- 符合条件的员工可获得搬迁支持。
- 还可能提供慈善捐赠配比和身心健康津贴。





