技术博客

陈怡然团队最新研发的DPad技术在大语言模型推理加速方面取得突破性进展。该技术通过精准识别并利用少量关键的“cai票token”，使扩散型大语言模型的推理速度提升61至97倍。DPad策略无需额外训练，即可实现零成本优化，有效筛选出核心信息，在显著提高计算效率的同时保持高准确性。此外，该方法还增强了模型对文本格式的理解能力与指令遵循性能，为高效、低成本的语言模型部署提供了全新路径。