研究提出基于群论的强化学习框架

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对现有强化学习依赖固定群动作或预定义状态抽象的局限,研究人员提出了一种基于群论的框架。该框架能够捕捉局部、状态依赖的对称性,并在交互过程中动态发现等价结构。代理通过维护轨道代表和传输器将原始状态映射为规范形式,在保持局部区分的同时在降维空间中进行学习。实验结果显示,该方法在具有强部分对称性的密集和大规模环境中,相比标准 Q 学习提升了样本效率和收敛速度。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

用群胚刻画局部对称

这篇论文把对称性处理从全局推广到局部。作者指出,经典强化学习通常假定马尔可夫决策过程具有全局结构,动作与转移在各处一致适用,这一假定使算法难以利用现实环境中常见的模块化特征和随情境变化的规律。论文提出的框架以群胚为数学工具,刻画依赖具体状态的局部对称,并在智能体与环境交互的过程中动态发现等价结构,而不是依赖事先固定的群作用或预先设定的状态抽象。

轨道代表与传输映射

在具体机制上,智能体维护两类内部表示:一类是轨道代表,另一类是传输映射。传输映射负责把原始状态转换为规范形式,使学习与决策可以在约简后的对称空间中完成,同时保留状态之间的局部差异。作者强调,这种表示并非把不同状态简单合并,而是在压缩规模的同时维持必要的区分度,因此局部对称带来的简化不会以丢失关键信息为代价。

稠密环境中的样本效率

实验部分考察了具有强部分对称性的稠密环境与大规模环境。结果显示,基于群胚的方法在样本效率和收敛速度上均有改善,相对标准 Q-learning 取得明显性能提升。作者据此认为,动态利用局部对称是一条兼具实用性与数学依据的路径,有助于构建可扩展、可泛化的强化学习系统。论文题为 Groupoid-Based Internal State Representations for Reinforcement Learning with Local Symmetries,作者为 Ben Opperman、Eduardo Alonso 与 Esther Mondragón,属于 ALA 2026 workshop 收录工作,arXiv 编号 2609.13035。

为什么值得看

利用局部对称性提升大规模环境下的样本效率与泛化能力。

强化学习

信源1 家

  1. [1]arXiv cs.AI一手信源Groupoid-Based Internal State Representations for Reinforcement Learning with Local Symmetries

关键事实

  • 提出基于群论的框架以捕捉局部、状态依赖的对称性。[1]

  • 代理利用轨道代表和传输器将原始状态映射为规范形式。[1]

  • 实验显示该方法在强部分对称性环境中优于标准 Q 学习。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。