人工智能研究工程师：模型压缩与量化
为 Tether 基于区块链的数字金融平台开发大型语言模型和视觉语言模型的压缩方法。 改进量化、知识蒸馏和剪枝技术，让生成式 AI 能在边缘设备上高效运行。
描述
- 通过低比特量化缩小生成式 AI 模型并降低推理延迟，同时保持准确率和输出质量。
- 将较大的教师模型蒸馏为较小的学生模型，以支持文本、图像和音频的多模态推理。
- 剪除冗余的模型参数和注意力头。
- 评估模型大小、延迟、内存、吞吐量和准确率之间的权衡。
- 研究并应用混合精度量化及其他先进压缩方法。
- 跟进多模态和生成式模型架构压缩领域的研究。
- 构建可靠的压缩流程，并制定性能和保真度指标。
- 解决生产环境推理中的瓶颈。
- 开发可扩展的边缘设备 AI 系统，例如在内存占用和延迟方面表现高效的智能手机系统。
- 记录方法、实验和结果，确保工作可复现、可共享。
- 撰写技术论文，并在 NeurIPS、ICML、ICLR、CVPR、ACL 和 AAAI 等会议发表研究成果。
任职要求
- 拥有计算机科学或相关专业学位。
- 优先考虑拥有自然语言处理、机器学习或相关专业博士学位者。
- 在 AI 研究与开发方面有扎实的成果记录，包括在顶级会议发表论文。
- 具备 PyTorch 或同类深度学习框架的使用经验。
- 具备量化感知训练和训练后量化的实践经验。
- 具备知识蒸馏方面的研究和实践经验。
- 具备模型剪枝方面的研究和实践经验。
- 理解神经网络架构和训练，包括 Transformer、大型语言模型、视觉语言模型、反向传播、优化和微调。
- 熟悉 C++ 者优先。
- 能够使用英语有效沟通。
- 请注明计划工作的国家。
福利待遇
- 可在世界各地远程工作。
- 与全球团队以及金融科技、人工智能和区块链领域的专家合作。
- 参与数字金融、区块链、人工智能和点对点技术产品的建设。
- 有机会撰写技术论文并在顶级会议发表。
- 获得专业领域和研究方面的合作机会。