技术博客

在多模态大模型中，传统Attention机制因跨模态特征对齐不充分、注意力分布偏斜及模态间语义粒度失配等问题，导致信息融合效率下降。研究表明，约68%的多模态任务性能瓶颈可归因于Attention权重计算的非均衡性。本文提出一种基于模态感知归一化与交叉熵约束的修正公式：