技术博客

AI协作新范式MoA通过整合多个具备不同专长的AI模型，开创了应对复杂任务的新方式。这一模式突破了传统单一AI模型的能力限制，展现了协同合作的巨大潜力。MoA不仅提升了任务处理效率，还为跨领域问题提供了创新解决方案，标志着AI技术发展的重要里程碑。

姚期智教授领导的团队开发了一种新型注意力机制算法，该算法可显著减少内存使用量高达90%，同时保持性能不下降。此技术整合了MHA、MQA和GQA等多种注意力模型，由清华大学、上海期智研究院及加州大学洛杉矶分校（UCLA）顾全全教授团队合作完成。论文共同第一作者为清华大学博士生张伊凡和姚班校友、UCLA博士生刘益枫。