技术博客

近日，vivo AI研究院推出了一种名为EdgeInfinite的新算法，该算法专为优化端侧设备的长文本处理能力而设计。通过改进内存使用效率，EdgeInfinite使手机等设备在GPU内存不足10GB的情况下，仍能流畅处理长达128K tokens的文本输入。这一突破性技术有效解决了传统内存限制问题，为长文本处理提供了更高效、更便捷的解决方案。