arXiv 论文提出进化策略的质心几何解释

论文AI 评分 58/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文把进化策略的更新过程重新解释为几何位移:把每个扰动后的模型看作粒子,把它的奖励看作粒子的质量。打分前各粒子质量相同,群体平衡在质心;打分后平衡点变成按奖励加权的质心。作者证明,对任意有限规模的种群,减去均值后的 ES 更新恰好等于这一位移乘以一个标量,该标量取决于平均奖励。该解释要求奖励非负,而给所有奖励加同一常数即可满足,且不改变更新本身。当种群规模很大或采用对偶采样时,质心落在模型自身,于是更新可描述为模型朝自身种群的奖励加权质心移动。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

几何视角的提出

论文没有沿用「平滑梯度的估计」这一常见说法,而是给 ES 更新换了一套几何读法。它把种群中每个被扰动的模型当作一个粒子,并把该粒子得到的奖励当作它的质量。在打分之前,所有粒子质量一致,整个群体平衡在质心位置;打分之后,平衡点转移到按奖励加权的质心。更新因此可以被看成群体平衡点的一次移动,而不是一次梯度近似。

与减去均值的关系

作者给出的核心结论是:对任意有限规模的种群,减去均值后的 ES 更新恰好等于上述位移,再乘上一个由平均奖励决定的标量系数。这一解释要求奖励非负,但这一点并不构成限制——给每个奖励加上同一个常数就能满足,而更新本身不会因此改变。论文还借此说明减去平均奖励究竟做了什么:它把位移的测量起点从模型本身换成了采样得到的质心。

大种群下的简化

当种群规模很大,或者采用对偶采样时,质心会落在模型自身上,几何图像随之变得更简单:模型从当前位置出发,朝它自己种群的奖励加权质心移动。作者强调,这一解释对任意有限种群都是精确成立的,其贡献在于提供一种直观、可几何化的方式来观察 ES 更新过程。

为什么值得看

为 ES 更新提供了精确到有限种群的直观几何图像,有助于理解减去均值奖励的作用。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源Center-of-Mass Interpretation of Evolution Strategies

关键事实

  • 论文把每个扰动模型视为粒子、奖励视为质量,群体平衡点由质心变为奖励加权质心[1]

  • 作者证明对任意有限种群,减去均值的 ES 更新等于该位移乘以依赖平均奖励的标量[1]

  • 该物理解释需要非负奖励,可通过给所有奖励加同一常数实现且不改变更新[1]

  • 在种群规模很大或对偶采样下,质心位于模型自身,更新即朝自身种群的奖励加权质心移动[1]

  • 论文由 Akshat Gupta 提交,2026 年 10 月 26 日发布,编号 arXiv:2610.35865[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。