MWDN
MWDN
51 – 200 员工
医疗保健咨询物流
MWDN 是一家 IT 服务和软件开发公司,帮助企业在 Web、移动端和桌面平台上构建并扩展数字产品。其内部工程团队通过人员扩充、专属开发团队和全球 IT 招聘,为客户项目交付提供支持。MWDN 在中欧和东欧设有交付中心,为美国、欧洲和以色列的企业对接软件人才,助力开展量身定制且注重成本效益的技术项目。

CUDA工程师,LLM推理(远程,乌兹别克斯坦)

优化现代GPU上的LLM推理,使用CUDA内核和服务框架。 加入MWDN,参与AI系统与高性能计算项目。

描述

  • 提升现代GPU上的LLM推理性能。
  • 使用vLLM、SGLang和TensorRT-LLM等推理与服务框架。
  • 检查GPU执行、内存访问、内核性能和推理瓶颈。
  • 构建、调优、调试或逆向分析CUDA内核和底层GPU操作。
  • 研究矩阵乘法、注意力机制和神经网络层的优化方法。
  • 对系统进行基准测试,探索降低延迟、提升吞吐量和GPU利用率的方法。
  • 解决涉及AI系统与高性能计算的复杂问题。
  • 开展实际实验并检查底层系统行为。

任职要求

  • 具备扎实的CUDA和GPU编程实践经验。
  • 深入了解GPU架构、内存层次结构、并行执行和性能调优。
  • 拥有LLM推理、AI系统、GPU内核或高性能计算方面的经验。
  • 熟悉vLLM、SGLang、TensorRT-LLM、Triton或FlashAttention中的至少一种。
  • 能够诊断复杂的性能问题,并调查底层系统行为。
  • 具备出色的问题解决能力。
  • 能够用英语有效沟通复杂的技术概念。
  • 拥有计算机科学、机器学习、计算机体系结构或相关学科的博士学位或研究背景者优先。
  • 在GPU或LLM基础设施方面发表过研究成果、参与过项目或做出过重要开源贡献者优先。
  • 具备PyTorch内部机制、分布式推理、量化、KV缓存调优或自定义GPU内核经验者优先。
  • 为vLLM、SGLang、Triton、FlashAttention或相关代码库做出过贡献者优先。

福利待遇

  • 客户审核流程旨在降低风险并支持可靠、及时的付款。
  • 提供职业指导,协助寻找未来机会。
  • 提供有关独立承包或个人经营、税务及相关事项的法律建议。
  • 提供英语课程和专业发展机会。
  • 团队建设活动。
  • 工作时间灵活。
  • 每年29天带薪休假:18个工作日及国家法定节假日。
  • 10天带薪休养假。
  • 为独立承包人员提供财务和法律援助。
  • 可免费与英语母语者或乌克兰教师学习英语。
  • 专属人力资源支持。
  • 以人为本的管理方式,官僚流程较少。
  • 友好的公司文化。

相关职位

未找到职位

尝试调整或清除筛选条件,以查看更多机会。