技术博客

MIT与谷歌研究团队提出一种异步并行生成范式，以提升大型语言模型（LLM）的推理效率。通过策略学习技术，模型可自主发现并标记异步生成机会，无需依赖人工规则。此方法优化了生成质量与速度间的平衡，为LLM性能改进提供了新思路。