arXiv 论文提出 Agima 框架:让智能体先想象后果再行动

论文AI 评分 78/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

arXiv 收录的论文《Train An Imaginative Agent》提出 Agentic Imagination(Agima)训练框架,让智能体在执行动作前先想象后果。该框架用单一 omni 模型同时完成三件事:提出动作、生成动作结果的图像、基于想象出的未来进行推理,从而决定实际执行什么。训练分两步:先用监督微调把策略与世界建模统一进一个模型,使其能预测未来并做前向思考与反事实分支;再用智能体强化学习教它利用想象出的未来做规划。在 Maze2D、Sokoban、Pacman、PushT 四个环境中,Agima 能泛化到训练时未见过的更难设置。仅在双箱 Sokoban 上做 SFT 训练后,它在每五步才看一次真实棋盘的条件下解出 40% 的四箱谜题,而只做动作规划的对比方案仅解出 2%。经 RL 后还出现新行为:学会 SFT 阶段未见过的统一格式、只在必要时前向思考、在关键决策点…

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

先想象再执行

论文关注的问题是:在 Sokoban 这类环境中,一个看似合理的推动就可能让谜题无解,而真实环境反馈稀疏或动作不可逆时,智能体更需要提前预判后果。Agima 的做法是训练一个 omni 模型,让它先提出候选动作,再生成这些动作所导致结果的图像,然后在这些想象出的未来之上进行推理,最终决定在真实环境中执行哪个动作。与只锁定单一计划不同,该智能体可以模拟一串动作、探索替代路径并比较不同未来,从而把「想象」变成决策流程中的一环。

两阶段训练流程

训练分两个阶段。第一阶段用监督微调,把策略与世界建模统一进同一个 omni 模型,使智能体具备预测未来结果的能力,并能完成前向思考与反事实分支这类基础想象。第二阶段用智能体强化学习,目标是让智能体学会对想象出的未来做推理,并把这种推理有效用于规划。论文在 Maze2D、Sokoban、Pacman、PushT 四个环境中验证,结果显示 Agima 能泛化到训练阶段未出现过的更难设置。

量化对比与涌现行为

论文给出了一组对比:只在双箱 Sokoban 上做监督微调后,Agima 在每五步才观察一次真实棋盘的条件下,解出了 40% 的四箱谜题;而只做动作规划的对比方案仅解出 2%。经过强化学习后,智能体在使用想象力方面出现了训练中未预设的新行为:它学会了一种在监督微调阶段没见过的统一格式,学会只在必要时才做前向思考,并在关键决策点更频繁地分支。论文的结论是,能够描绘动作走向的智能体,可以自己学会在何时、何处向前看,也就是学会规划。

为什么值得看

把世界模型与策略合进单个模型,并用想象出的未来做规划,给出了可量化的收益对比,值得关注智能体规划方向的人一看。

智能体微调强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源Train An Imaginative Agent

关键事实

  • 论文提出 Agentic Imagination(Agima)训练框架,训练智能体在行动前先想象动作后果[1]

  • Agima 用单一 omni 模型提出动作、生成结果图像,并对想象出的未来推理后再决定执行[1]

  • 训练先用监督微调统一策略与世界建模,再用智能体强化学习教其利用想象做规划[1]

  • 在 Maze2D、Sokoban、Pacman、PushT 四个环境中,Agima 可泛化到训练未见的更难设置[1]

  • 仅用 SFT 在双箱 Sokoban 上训练后,Agima 在每五步看一次真实棋盘时解出 40% 四箱谜题,动作规划对比方案为 2%[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。