arXiv 论文提出 Agima 框架:让智能体先想象后果再行动
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载先想象再执行
论文关注的问题是:在 Sokoban 这类环境中,一个看似合理的推动就可能让谜题无解,而真实环境反馈稀疏或动作不可逆时,智能体更需要提前预判后果。Agima 的做法是训练一个 omni 模型,让它先提出候选动作,再生成这些动作所导致结果的图像,然后在这些想象出的未来之上进行推理,最终决定在真实环境中执行哪个动作。与只锁定单一计划不同,该智能体可以模拟一串动作、探索替代路径并比较不同未来,从而把「想象」变成决策流程中的一环。
两阶段训练流程
训练分两个阶段。第一阶段用监督微调,把策略与世界建模统一进同一个 omni 模型,使智能体具备预测未来结果的能力,并能完成前向思考与反事实分支这类基础想象。第二阶段用智能体强化学习,目标是让智能体学会对想象出的未来做推理,并把这种推理有效用于规划。论文在 Maze2D、Sokoban、Pacman、PushT 四个环境中验证,结果显示 Agima 能泛化到训练阶段未出现过的更难设置。
量化对比与涌现行为
论文给出了一组对比:只在双箱 Sokoban 上做监督微调后,Agima 在每五步才观察一次真实棋盘的条件下,解出了 40% 的四箱谜题;而只做动作规划的对比方案仅解出 2%。经过强化学习后,智能体在使用想象力方面出现了训练中未预设的新行为:它学会了一种在监督微调阶段没见过的统一格式,学会只在必要时才做前向思考,并在关键决策点更频繁地分支。论文的结论是,能够描绘动作走向的智能体,可以自己学会在何时、何处向前看,也就是学会规划。
为什么值得看
把世界模型与策略合进单个模型,并用想象出的未来做规划,给出了可量化的收益对比,值得关注智能体规划方向的人一看。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
