HybridAgents:在潜空间推理与文本交互间动态切换的智能体

论文AI 评分 78/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 Hybrid Reasoning Agents(HybridAgents),让智能体在统一生成过程中于潜空间推理与文本交互之间动态切换。架构上,轻量组件 HybridLink 负责两种模式间的转换,连续工作记忆在多轮中保留无损的混合上下文,从而在保留工具调用能力的同时让潜空间思考可被直接检查。作者还设计了 HybridSFT 与 HybridRL 两阶段后训练算法。在 3 个模型规模、覆盖数学、科学、医学、搜索与智能体推理的 11 个基准上,HybridAgent 相比前沿 LLM 智能体与智能体框架性能提升 10.4%,token 减少 35.5%-54.7%,推理快 1.8x-2.6x,成本降低 2.7x-3.7x。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的问题

当前 LLM 智能体仍以文本作为推理与交互的媒介,而潜空间推理虽然内部效率更高,却缺少原生的工具访问能力,推理过程也不透明。论文试图把这两条路线接起来:让智能体既能用潜空间做内部思考,又能通过文本在外部环境中行动。作者提出的 HybridAgents 在同一个生成过程里动态地在潜空间推理与文本交互之间切换,而不是把两者当成彼此独立的模块拼接。这样做的目标是同时保住工具集成的智能体能力,又让潜空间的思考内容可以被直接检查,而不是停留在不可读的隐状态里。

架构与训练方法

架构层面有两个关键设计。其一是轻量的 HybridLink,它在文本模式与潜空间模式之间做无缝转换,使同一次生成可以在两种媒介间来回切换。其二是智能体的连续工作记忆,它在多轮交互中保留无损的混合上下文,避免模式切换造成信息丢失。在此基础上,作者为混合推理开发了专门的后训练算法:HybridSFT 通过让主干模型学会与 HybridLink 协同,来稳定工具集成的混合生成;HybridRL 则进一步扩展推理能力,学习在什么情况下应当在潜空间思考、什么情况下应当通过文本行动。两者构成先稳定、再扩展的训练路径。

评测结果与效率

作者在 3 个模型规模上评估 HybridAgent,覆盖数学、科学、医学、搜索与智能体推理共 11 个基准,对比对象包括基于文本的与基于潜空间的前沿 LLM 智能体及智能体框架。结果显示,HybridAgent 的性能一致提升 10.4%,同时 token 用量减少 35.5% 到 54.7%,推理速度提升 1.8x 到 2.6x,成本降低 2.7x 到 3.7x。论文共 45 页、12 张图,代码与数据已提供公开链接,便于复现与进一步比较。

为什么值得看

潜空间推理与工具调用长期难以兼得,该工作给出可检查的混合方案,并附效率与成本数据。

智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Hybrid Reasoning Agents

关键事实

  • 论文提出 HybridAgents,在统一生成过程中于潜空间推理与文本交互之间动态切换[1]

  • HybridLink 负责文本与潜空间模式间的转换,连续工作记忆跨多轮保留无损混合上下文[1]

  • HybridSFT 稳定工具集成的混合生成,HybridRL 学习何时在潜空间思考、何时以文本行动[1]

  • 在 3 个模型规模、11 个基准上,HybridAgent 性能提升 10.4%,token 减少 35.5%-54.7%[1]

  • 推理速度提升 1.8x-2.6x,成本降低 2.7x-3.7x,代码与数据已公开[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。