技术博客

LightVLA是一种针对视觉语言模型（VLA）的优化框架，通过引入可微分的token剪枝技术，显著提升了模型的推理效率与性能。在具身智能领域，VLA模型常因高昂的推理成本而难以部署。传统免训练剪枝方法依赖中间注意力输出，限制了效率与性能的进一步提升。LightVLA首次实现无需额外训练的端到端剪枝优化，在不牺牲模型准确性的前提下，大幅降低计算开销，推动VLA在实际场景中的广泛应用。

本研究针对视觉-语言-动作（VLA）模型中存在的视觉冗余问题，提出了一种创新的无参数可微分视觉token剪枝框架——LightVLA。该框架通过引入可微分机制，在不增加额外参数的前提下实现高效token剪枝，显著提升了模型的推理效率与性能表现。与传统免训练剪枝方法相比，LightVLA突破了其在优化灵活性和精度保持方面的局限，实现了端到端的动态冗余消除。实验结果表明，该方法在多个基准任务中均展现出优越的压缩效率与模型保持能力，为VLA模型的轻量化部署提供了新的解决方案。