HCG:分层协作 GFlowNets 动态划分搜索空间

论文AI 评分 66/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出分层协作 GFlowNets(HCG),用于解决多个 GFlowNet 并行采样时容易集中到同一高奖励区域、导致状态空间大片未被探索的问题。HCG 按排名给模型排序:排名最高的模型可探索整个空间,排名较低的模型被逐步推向高排名模型未覆盖的区域;一个共享分类器负责划分搜索空间并协调这一层级,各 GFlowNet 仍独立参数化,支持异步训练。作者还给出归一化加权聚合规则,并证明在给定假设下该规则可恢复目标奖励比例分布。在多模态分布、序列生成、组合优化和生物序列设计实验中,HCG 提升了模式覆盖与目标逼近,增加协同采样器数量可带来更广的互补探索。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的问题

GFlowNets 的训练目标是按与奖励函数成正比的概率从组合空间中采样对象。但探索不充分时,学到的采样器会集中在少数高奖励区域。一个直观做法是并行独立训练多个 GFlowNet 再合并样本,然而这并不能阻止多个模型塌缩到相同的高奖励区域,状态空间的大片区域仍未被探索。HCG 针对的正是这种并行采样之间的冗余问题。

分层协调机制

HCG 不依赖手工设定的边界,而是动态划分搜索空间。它引入一种排序:排名最高的模型可以探索整个空间,排名越低的模型越被推向高排名模型尚未覆盖的区域。作者从理论上刻画了特定学习目标如何把概率质量从指定区域移开,并把这一机制实现在架构中。一个共享分类器承担划分搜索空间与协调层级的职责,同时各 GFlowNet 保持独立参数化,因此训练可以异步进行。

聚合规则与实验

在集成层面,作者推导了归一化加权聚合规则,并证明在所述假设下该规则能恢复目标奖励比例分布。实验覆盖多模态分布、序列生成、组合优化与生物序列设计四类任务,结果显示 HCG 在模式覆盖与目标逼近上均有改善;协同采样器数量增加时,探索范围更广且彼此互补。

为什么值得看

GFlowNet 采样易塌缩到少数高奖励区,这篇给出无需手工边界的协同探索方案,并附理论保证与多任务实验。

多模态论文

信源1 家

  1. [1]arXiv cs.AI一手信源Hierarchical Cooperative GFlowNets

关键事实

  • HCG 让排名最高的模型探索全空间,低排名模型被推向高排名模型未覆盖区域[1]

  • 共享分类器负责划分搜索空间并协调层级,各 GFlowNet 独立参数化、可异步训练[1]

  • 作者推导归一化加权聚合规则,并证明在给定假设下恢复目标奖励比例分布[1]

  • 实验覆盖多模态分布、序列生成、组合优化与生物序列设计[1]

  • 增加协同采样器数量可带来更广、互补的探索[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。