HCG:分层协作 GFlowNets 动态划分搜索空间
论文AI 评分 66/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
论文提出分层协作 GFlowNets(HCG),用于解决多个 GFlowNet 并行采样时容易集中到同一高奖励区域、导致状态空间大片未被探索的问题。HCG 按排名给模型排序:排名最高的模型可探索整个空间,排名较低的模型被逐步推向高排名模型未覆盖的区域;一个共享分类器负责划分搜索空间并协调这一层级,各 GFlowNet 仍独立参数化,支持异步训练。作者还给出归一化加权聚合规则,并证明在给定假设下该规则可恢复目标奖励比例分布。在多模态分布、序列生成、组合优化和生物序列设计实验中,HCG 提升了模式覆盖与目标逼近,增加协同采样器数量可带来更广的互补探索。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载要解决的问题
GFlowNets 的训练目标是按与奖励函数成正比的概率从组合空间中采样对象。但探索不充分时,学到的采样器会集中在少数高奖励区域。一个直观做法是并行独立训练多个 GFlowNet 再合并样本,然而这并不能阻止多个模型塌缩到相同的高奖励区域,状态空间的大片区域仍未被探索。HCG 针对的正是这种并行采样之间的冗余问题。
分层协调机制
HCG 不依赖手工设定的边界,而是动态划分搜索空间。它引入一种排序:排名最高的模型可以探索整个空间,排名越低的模型越被推向高排名模型尚未覆盖的区域。作者从理论上刻画了特定学习目标如何把概率质量从指定区域移开,并把这一机制实现在架构中。一个共享分类器承担划分搜索空间与协调层级的职责,同时各 GFlowNet 保持独立参数化,因此训练可以异步进行。
聚合规则与实验
在集成层面,作者推导了归一化加权聚合规则,并证明在所述假设下该规则能恢复目标奖励比例分布。实验覆盖多模态分布、序列生成、组合优化与生物序列设计四类任务,结果显示 HCG 在模式覆盖与目标逼近上均有改善;协同采样器数量增加时,探索范围更广且彼此互补。
为什么值得看
GFlowNet 采样易塌缩到少数高奖励区,这篇给出无需手工边界的协同探索方案,并附理论保证与多任务实验。
多模态论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
