LLM研究智能体20天自建炉石酒馆战棋AI,天梯分从6000升至约15000

论文AI 评分 82/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 AutoTavern:多个专用 LLM 研究智能体共享带类型的研究记忆,每条结论都要过验证关卡,实盘对局结果回灌形成闭环,让它们同时改进模拟器、对手与策略,并据此改进自身研究流程,人类只负责设定目标、裁定机制歧义。20 天内该系统建成 TavernGym,论文称这是对在线游戏首个完整内容的忠实复现,并产出 23 个版本的 TavernAgent,用 PPO 针对按真实对局校准的对手训练。TavernAgent 可自行在天梯打完整对局,评分从 6000 升至约 15000;按公开榜单口径,最近 20 场平均名次 1.60、80% 吃鸡,全面优于服务器前十名玩家的 2.34 与 59%。在 960 项任务、40 个场景的 TavernBench 上,它答对 91% 的操作题,前沿 LLM 最高 63%;决策耗时 0.03 秒,后者最长 26 秒;在实盘一回合允许的…

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

系统怎么运转

AutoTavern 把研究拆给多个专用 LLM 智能体,它们共用一份带类型标注的研究记忆,任何一条主张都要先过验证关卡才能留下。实盘对局结果回灌进这个闭环,智能体据此同时修改三样东西:游戏模拟器、训练对手和策略本身;同一份反馈还被用来调整它们自己的研究流程。人类不参与具体实现,只设定目标,并在机制存在歧义时做裁定。论文要回答的问题是:LLM 智能体能否把一个困难的真实问题,从原始数据一路推到能与人对垒的系统。

二十天造出什么

在这套流程下,20 天里产出了 TavernGym,论文称这是对在线游戏首个完整内容的忠实复现;同时交付 23 个版本的 TavernAgent,训练方式是 PPO,对手按真实对局校准。炉石酒馆战棋是八人自动战斗,商店与战斗带随机性,存在隐藏信息,近千张卡牌互相作用,这些条件都被纳入模拟与训练。TavernAgent 能自己在天梯上打完完整对局,评分从 6000 升到约 15000;按公开榜单的统计口径,它最近 20 场平均名次 1.60、80% 拿第一,而服务器评分最高的十位玩家是 2.34 与 59%,每一项统计都落后。

基准上的差距

TavernBench 覆盖 40 个场景、共 960 项任务,用来比较智能体造出的系统与现成模型。TavernAgent 答对 91% 的操作任务,前沿 LLM 最高只有 63%;速度上它 0.03 秒给出决策,后者最长要 26 秒。更贴近实战的约束是实盘一回合只给 1 秒,在这个窗口内 TavernAgent 仍保持 90% 正确率,而没有哪个 LLM 超过 26%。论文由此给出判断:LLM 智能体在“造”上远强于在“玩”上。作者表示会把 TavernBench 与 TavernGym 开源,代码与基准地址在论文中给出。

为什么值得看

它给出可核查的证据:LLM 智能体在长周期工程闭环里造系统,比亲自下场玩更有效,并附开源基准与模拟器。

智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Build, Don't Play: Self-Improving LLM Research Agents Develop a Hearthstone Battlegrounds AI That Rivals Top Players

关键事实

  • AutoTavern 由多个专用 LLM 研究智能体组成,共享带类型的研究记忆,每条结论需通过验证关卡,实盘对局反馈闭环[1]

  • 20 天内建成 TavernGym,并产出 23 个版本的 TavernAgent,用 PPO 对按真实对局校准的对手训练[1]

  • TavernAgent 天梯评分从 6000 升至约 15000,最近 20 场平均名次 1.60、80% 第一,对比服务器前十的 2.34 与 59%[1]

  • TavernBench 含 40 个场景共 960 项任务,TavernAgent 答对 91%,前沿 LLM 最高 63%;决策 0.03 秒对最长 26 秒[1]

  • 实盘一回合限时 1 秒内,TavernAgent 保持 90% 正确率,没有 LLM 超过 26%;TavernBench 与 TavernGym 将开源[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。