北京大学的研究团队提出了一种名为iFairy的创新方案,该方案将模型权重量化到复数集合{+1, -1, +i, -i}中,实现了2比特的量化精度。这一技术突破使得模型在推理过程中仅需进行加法运算,显著降低了模型的复杂性和资源消耗。此外,iFairy方案特别适用于移动设备上的部署,其低计算需求使得模型能够在智能手机等设备上高效运行,为轻量化人工智能应用开辟了新的可能性。
客服热线请拨打
400-998-8033