CUDA工程师,LLM推理(远程,乌兹别克斯坦)
优化现代GPU上的LLM推理,使用CUDA内核和服务框架。 加入MWDN,参与AI系统与高性能计算项目。
描述
- 提升现代GPU上的LLM推理性能。
- 使用vLLM、SGLang和TensorRT-LLM等推理与服务框架。
- 检查GPU执行、内存访问、内核性能和推理瓶颈。
- 构建、调优、调试或逆向分析CUDA内核和底层GPU操作。
- 研究矩阵乘法、注意力机制和神经网络层的优化方法。
- 对系统进行基准测试,探索降低延迟、提升吞吐量和GPU利用率的方法。
- 解决涉及AI系统与高性能计算的复杂问题。
- 开展实际实验并检查底层系统行为。
任职要求
- 具备扎实的CUDA和GPU编程实践经验。
- 深入了解GPU架构、内存层次结构、并行执行和性能调优。
- 拥有LLM推理、AI系统、GPU内核或高性能计算方面的经验。
- 熟悉vLLM、SGLang、TensorRT-LLM、Triton或FlashAttention中的至少一种。
- 能够诊断复杂的性能问题,并调查底层系统行为。
- 具备出色的问题解决能力。
- 能够用英语有效沟通复杂的技术概念。
- 拥有计算机科学、机器学习、计算机体系结构或相关学科的博士学位或研究背景者优先。
- 在GPU或LLM基础设施方面发表过研究成果、参与过项目或做出过重要开源贡献者优先。
- 具备PyTorch内部机制、分布式推理、量化、KV缓存调优或自定义GPU内核经验者优先。
- 为vLLM、SGLang、Triton、FlashAttention或相关代码库做出过贡献者优先。
福利待遇
- 客户审核流程旨在降低风险并支持可靠、及时的付款。
- 提供职业指导,协助寻找未来机会。
- 提供有关独立承包或个人经营、税务及相关事项的法律建议。
- 提供英语课程和专业发展机会。
- 团队建设活动。
- 工作时间灵活。
- 每年29天带薪休假:18个工作日及国家法定节假日。
- 10天带薪休养假。
- 为独立承包人员提供财务和法律援助。
- 可免费与英语母语者或乌克兰教师学习英语。
- 专属人力资源支持。
- 以人为本的管理方式,官僚流程较少。
- 友好的公司文化。
相关职位
未找到职位
尝试调整或清除筛选条件,以查看更多机会。
