arXiv 论文提出 Environment Duels 基准,评测 LLM …

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇提交到 arXiv 的论文提出 Environment Duels,一个动态的 agentic 基准,在交互环境中同时考察模型的两项能力:写出带特权提示的环境,以及在没有提示时解不出、有提示时能解出。作者在九个前沿 LLM 上测试后发现,解题与出题是两种不同技能,最强的解题者并非最强的出题者;较小的模型反而从他人的对局中学到更多,写出的环境最难、提示最有用。论文还报告,两两对局结果具有传递性,可形成稳定排名;独立作者会收敛到相同设计;在 Qwen3.8-27B 的强化学习实验中,学习者在某作者环境上的提示增益,与该环境训练后迁移到留出推理与 agentic 基准的提升相关。代码已公开。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

基准怎么设计

Environment Duels 把评测放进交互环境,要求参与模型扮演两种角色。作为出题者,模型需要写出一个环境,并为它配一条只有出题方掌握的特权提示;合格的标准是:能力足够的解题者在拿不到提示时无法完成,拿到提示后则能通过。作为解题者,模型要在这些环境中实际交互并完成任务。这样,同一套流程既测「能不能做题」,也测「能不能设计出有区分度的题」,把过去分开评测的两件事放进同一个对局框架。

九个模型上的发现

作者在九个前沿 LLM 上运行该基准,结果显示解题与出题是彼此独立的技能:排名靠前的解题者并不自动成为好的出题者。一个反直觉的现象是,规模较小的模型从观察他人如何对局中获益更多,并且写出的环境难度最高、附带提示的信息量也最大。这说明模型在生态中的位置不只由单点能力决定,学习他人产出的方式同样影响表现。

对局数据的结构

除分数之外,两两对局本身构成观察模型相互影响的样本。论文报告,正面对决的结果具有传递性,因此可以据此得到稳定排名;不同的独立出题者会收敛到相同的环境设计。作者把这些模式与模型在真实生态中彼此塑造的方式相对应,认为在受控条件下复现这些互动,可以观察模型如何互相教学、互相挑战、互相学习。

强化学习中的迁移信号

论文还用 Qwen3.8-27B 做了强化学习实验:学习者在某个作者所写环境上的提示增益,与它在该环境上训练后、在留出推理与 agentic 基准上的提升幅度相关,无论这些环境由自己还是其他模型写出。这一结果把「提示带来的增益」与「训练后的实际迁移效果」联系起来,为判断一批合成环境是否值得用于训练提供了可测量的线索。代码已随论文公开。

为什么值得看

把「模型互相出题、互相解题」放进可控对局,给出可复现的评测与排名方法,对做 agent 训练与合成数据的人有直接参考价…

Qwen强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源Environment Duels: A Microcosm of LLM Co-Evolution

关键事实

  • 论文提出 Environment Duels,一个在交互环境中同时评测模型出题与解题能力的动态 agentic 基准。[1]

  • 每个模型写出的环境都带一个特权提示,目标是让有能力的解题者在无提示时失败、有提示时通过。[1]

  • 在九个前沿 LLM 上,解题与出题表现为两种不同技能,最强解题者并非最强出题者。[1]

  • 较小的模型从他人对局中学到更多,写出的环境最难、提示最有用。[1]

  • 在 Qwen3.8-27B 的强化学习实验中,提示增益与该环境训练后在留出推理与 agentic 基准上的提升相关。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。