技术博客

近期，大型语言模型（LLM）在解决复杂问题方面取得了显著进展，推理速度成为其关键特性。为满足市场对高效快速LLM的需求，某团队对xLSTM模型进行了优化，推出了7B参数规模的版本。该版本的推理速度较Mamba提升了50%以上，且其权重与代码已完全开源，旨在推动进一步研究与应用。

由Sepp Hochreiter领导的NXAI与JKU研究团队近期对xLSTM模型进行了显著改进。新版本的模型参数规模可达70亿，运行速度较Mamba提升50%以上。此外，团队公开了模型权重与代码，旨在推动开源社区的发展及进一步学术研究。这一成果为自然语言处理领域提供了更高效、灵活的解决方案。