技术博客

随着算力成本的显著降低，一种名为马尔可夫思考机（Markovian Thinker）的新型推理机器应运而生。该概念由Mila、微软研究院等机构的联合研究团队提出，旨在应对传统大型语言模型（LLM）推理成本呈二次方增长的挑战。通过将策略推理建立在固定大小的状态之上，而非随环境复杂度指数级扩展，该范式有效避免了计算资源的急剧消耗。研究表明，这一方法可使LLM的推理成本实现线性增长，大幅提升计算效率，为未来高效语言模型的发展提供了创新路径。