技术博客

在ICLR 2025 Oral论文中，微软与清华大学联合研究团队提出了一种革新性模型架构——DIFF Transformer。该模型采用差分注意力机制，专注于解决长序列建模中的关键挑战，为相关领域提供了新的研究方向和解决方案。