机器学习工程师，模型导入
将 Transformer 模型部署到 Cerebras AI 加速器硬件上，并优化其推理性能。开发 MLIR 编译器路径，同时提升模型的正确性、延迟、吞吐量和内存效率。
描述
- 通过分析架构、转换权重、实现执行路径，并根据参考实现验证结果，将新模型投入生产。
- 使用 MLIR 方言、图变换、降级通道和硬件专用映射，将模型降级到 Cerebras 硬件上。
- 通过编译器和内核开发，支持注意力、矩阵乘法、归一化、位置嵌入及其他算子。
- 优化算子融合、张量布局、分块、内存分配、数据移动和并行执行。
- 通过调整 KV 缓存管理、批处理和量化，改善预填充和解码性能，从而提升延迟、吞吐量和内存使用效率。
- 分析数值差异，并评估精度变化和编译器优化对准确率的影响。
- 使用性能分析器、执行轨迹和硬件计数器，定位计算、内存、通信和运行时瓶颈。
- 与硬件、编译器、内核和运行时团队合作，交付可靠的模型支持和可复现的性能基准。
任职要求
- 熟练掌握 C++ 和 Python 编程。
- 具备在 PyTorch 或类似框架中部署和调试机器学习模型的实践经验。
- 具备 MLIR 实践经验，熟悉方言、重写模式、变换通道和降级流水线。
- 了解编译器基础，包括中间表示、数据流分析和代码生成。
- 理解 Transformer 架构、注意力机制、张量运算和数值精度。
- 具备在 GPU 或其他 AI 加速器上分析和优化工作负载的经验。
- 能够跨模型代码、编译器输出、内核和运行时执行诊断正确性与性能问题。
- 具备大型语言模型推理经验，包括 GQA、滑动窗口注意力、混合专家、KV 缓存和推测解码。
- 具备 FP16、BF16、FP8 或低比特量化经验，并了解其准确率与性能权衡。
- 具备开发加速器内核或硬件专用编译器后端的背景。
- 熟悉分布式执行、模型并行和加速器内存层级。
- 曾参与 MLIR、LLVM、推理框架或相关开源项目。
福利待遇
- 在初创公司节奏的环境中获得稳定的工作。
- 有机会发表先进 AI 研究成果并将其开源。
- 与全球最快的 AI 超级计算机之一合作。
- 直接、非企业化的文化，尊重个人信念。
- 持续学习、职业发展和支持。
- 公平且多元化的工作环境。