一项新研究提出了改进大语言模型推理方式的新方案：AI在推理过程中无需将每一步中间过程都转化为文本输出，而是可在潜在空间中完成内部计算，从而同时提升速度并降低成本。研究团队认为，这一方法不仅有助于提高LLM推理效率，也能增强其解题能力。
据日本媒体GIGAZINE 19日报道，Stanford University、Together AI、University of Illinois Urbana-Champaign与Meta组成的联合研究团队发布了名为Hybrid Reasoning Agents的新型AI推理技术。
传统基于LLM的智能体在处理问题时，通常需要将中间推理过程、工具调用以及最终答案全部转化为文本Token输出。任务越复杂，生成的Token越多，推理速度也越慢，成本随之上升。为突破这一限制，研究团队将中间推理阶段迁移至潜在空间，以向量形式完成内部计算。
该方案的核心是结合两种推理模式：模型在内部推理时采用“潜在模式”，在调用外部工具或生成最终答案时再切换回“文本模式”。
为保证两种模式切换时推理过程的连贯性，团队引入了HybridLink技术。借助这一设计，潜在空间中的推理过程也可转换为接近文本的形式，便于人类查看。
不过，这一能力并不能直接应用到现有模型上。研究团队表示，还需要在预训练模型基础上进一步引入监督微调方法HybridSFT，以及强化学习方法HybridRL。
研究团队以基于Qwen3的40亿、80亿和140亿参数模型为基础，在数学、科学、检索等11项基准测试中进行了评估。结果显示，与传统方案相比，该方法可将文本Token生成量减少35.5%至54.7%，推理速度提升1.8至2.6倍。
在任务表现方面，新方案也优于传统方法，基准测试成绩平均提升10.4%。其中，40亿参数模型的估算计算成本降至传统方案的约27%。
目前，研究团队已在GitHub和Hugging Face公开相关代码及训练数据。不过，该论文尚未经过同行评审，其在真实服务场景中的表现及降本效果仍有待进一步验证。
Jae-won Choi
ittt_0801@d-today.co.kr