Player-1 用合成经验后训练游戏智能体,9B 模型成功率 38.33%

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究团队提出 Player-1,一个通过合成经验学习游戏控制的后训练框架,把计算机操作智能体的动作空间扩展为相对指针移动、持续输入与复合动作。先用 6,044 条精选游戏轨迹做监督初始化,再在自建的 Player-1-Gym 中训练,该环境包含十六个围绕通用控制需求设计的 2D 与 3D 场景,奖励可程序化验证,观测与控制动态随机化,支持基于 PPO 的多环境强化学习。产出的 Player-1-9B 与 Player-1-35B-A3B 在 MineDojo-300 上分别比各自的 SFT 策略提升 27.8 和 17.7 个百分点;Player-1-9B 成功率达 38.33%,最强对比基线为 12.63%,在 ViZDoom-10 与 GameWorld 上也优于 SFT。分析显示合成环境覆盖越广迁移越好,RL 过程中复合动作使用增多。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从演示学习转向合成经验

现有游戏智能体训练流程多依赖大规模演示数据,这类数据对动态游戏状态的覆盖有限,而可扩展的交互训练环境又不易获得。Player-1 的思路是在演示之外引入合成经验做后训练:先扩展动作空间,加入相对指针移动、持续按键输入以及把多个键鼠操作组合起来的复合动作,使智能体能表达更接近真实游戏操作的控制方式。监督初始化阶段使用 6,044 条经过筛选的游戏轨迹,每条轨迹把记录下来的动作与任务指令、视觉推理配对,让模型在开始强化学习前具备基本的界面理解与操作能力。这一阶段的作用是提供起点,而非最终能力上限。

Gym 环境与强化学习设置

为支撑交互式训练,团队构建了 Player-1-Gym,包含十六个合成的 2D 与 3D 环境,这些环境围绕多款游戏共有的控制需求设计,而不是复刻某一款具体游戏。环境中的奖励可以程序化验证,观测与控制动态经过随机化处理,从而支持在多个环境上并行开展基于 PPO 的强化学习。这种设计让训练信号不完全依赖人工演示,模型可以在合成场景中反复试错并获得可自动判定的反馈。论文提到,合成环境覆盖范围越广,能力迁移效果越好,说明环境多样性本身是训练收益的一部分。

成绩与行为变化

在两个规模上,Player-1-9B 与 Player-1-35B-A3B 相对各自的 SFT 策略,在 MineDojo-300 上的成功率分别提升 27.8 和 17.7 个百分点。其中 Player-1-9B 达到 38.33% 的成功率,而评估中最强的基线为 12.63%。除 MineDojo-300 外,模型在 ViZDoom-10 与 GameWorld 上也比 SFT 有进一步提升,说明收益并不局限于强化学习所用的训练套件。行为层面的观察是,随着强化学习推进,把多个键盘与鼠标输入组合在一起的复合动作使用频率上升,这与其动作空间扩展的设计相呼应。

适用范围与开放情况

该工作定位为后训练框架,目标是把游戏控制能力从监督初始化推进到合成经验驱动的强化学习阶段,论文将其视为通向通用数字控制的一步。需要留意的是,训练与评估集中在合成 2D、3D 环境以及若干游戏基准上,摘要未给出真实商业游戏或更广泛软件界面的结果。论文提供了项目页面与代码链接,作者名单包含 Mingyu Ouyang 等十二人,提交时间为 2026 年 10 月 14 日,归类于 cs.CV、cs.AI 等方向。

为什么值得看

给出游戏智能体从监督学习走向合成经验强化学习的具体路径与可复现数字,值得关注数字控制方向的人一看。

智能体强化学习

信源1 家

  1. [1]arXiv cs.AI一手信源Player-1: Learning to Play from Synthetic Experience

关键事实

  • Player-1 将计算机操作动作空间扩展为相对指针移动、持续输入和复合动作[1]

  • 监督初始化使用 6,044 条精选游戏轨迹,配对记录动作、任务指令与视觉推理[1]

  • Player-1-Gym 包含十六个合成 2D 与 3D 环境,支持基于 PPO 的多环境强化学习[1]

  • Player-1-9B 与 Player-1-35B-A3B 在 MineDojo-300 上比各自 SFT 策略提升 27.8 和 17.7 个百分点[1]

  • Player-1-9B 成功率为 38.33%,最强评估基线为 12.63%[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。