NVIDIA 致力于开发加速计算和人工智能技术，广泛应用于游戏、数据中心、云计算、医疗保健、制造、汽车和机器人等领域。其业务涵盖图形处理器、人工智能平台、仿真技术及面向行业的解决方案，包括支持协作式 3D 工作流程的 NVIDIA Omniverse、用于自动驾驶汽车开发的 NVIDIA DRIVE，以及面向医疗应用的 NVIDIA Clara。公司汇聚了众多技术团队，专注于构建支持先进计算、仿真和人工智能驱动分析的基础设施与软件。
深度学习推理高级软件工程师
在 NVIDIA 构建并调优用于大规模 AI 推理的 GPU 加速软件。 改进开源服务框架，并提升 NVIDIA 加速器上的模型性能。
描述
- 构建并优化用于 AI 应用的 GPU 加速软件。
- 开发和维护用于大规模模型服务与推理的开源框架。
- 改进推理平台，并支持语言模型的部署与服务。
- 实现可通过推理框架发布的新算法。
- 提升 NVIDIA 加速器上先进 LLM 和生成式 AI 模型的性能。
- 使用 CUTLASS、OAI Triton、NCCL 和 CUDA 内核等工具优化模型服务流水线。
- 分析并调优 LLM、多模态和生成式 AI 领域的深度学习模型。
- 在不同架构和 NVIDIA 加速器类型上扩展模型性能。
- 为 NVIDIA 推理库、vLLM、SGLang、FlashInfer 和 LLM 软件贡献功能与代码。
- 与框架、NVIDIA 库和推理优化解决方案团队协作。
任职要求
- 计算机工程、计算机科学、EECS、人工智能等相关领域的硕士、博士学位或同等经验。
- 至少五年相关软件开发经验。
- 具备扎实的 C/C++ 编程和软件设计能力。
- 具备敏捷软件开发经验者优先。
- 具备 Python 经验者优先。
- 具备深度学习模型推理训练、部署或优化的生产环境经验者优先。
- 具备性能建模、分析、调试和代码优化经验，或了解 CPU 与 GPU 架构者优先。
- 具备 CUDA、OAI Triton 或 CUTLASS GPU 编程经验者优先。
- 有参与 PyTorch、vLLM 或 SGLang 等深度学习软件项目的经验。
- 具备多 GPU 通信经验，包括 NCCL 或 NVSHMEM。
福利待遇
- 完善的福利待遇。
- 股权。