离散图扩散模型被指存在条件记忆现象
论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇投稿至 NeurIPS 2026 研讨会的论文指出，离散图扩散模型在无节点特征、单图训练的无条件设定下，虽然边重叠率与 WL 核相似度等样本级指标看不出记忆，但模型实际存在记忆。作者用双块随机块模型训练，观察反向扩散轨迹，发现模型对受损的训练图恢复得几乎完美，对留出的测试图则明显更差，称之为条件记忆。该现象只在反向轨迹以受损训练图为条件时出现，推理阶段不可见，并伴随泛化差距扩大，早停无法缓解。记忆的出现总是早于生成图中社区结构的形成。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载样本级指标为何失灵
离散图扩散模型通过马尔可夫噪声模型，对节点和边独立加噪来破坏图结构。在无节点特征的无条件设定下，仅用单张图训练一个等变去噪器，模型就能生成新图，而边重叠率、WL 核相似度这类样本级指标找不到记忆的痕迹。论文正是针对这一看似安全的结论提出反驳，指出这些指标衡量的是样本层面的相似度，无法捕捉反向扩散轨迹中隐藏的依赖关系，因此记忆可以在指标正常的情况下存在。
条件记忆如何被发现
作者把训练数据换成双块随机块模型，并逐条分析反向扩散轨迹。结果显示明显的训练数据偏置：当反向轨迹以受损的训练图为条件时，模型几乎能完美还原该训练图，而面对留出的测试图时恢复效果明显更差。作者把这种只在特定条件下浮现、推理阶段观察不到的现象命名为条件记忆。它同时对应一个不断扩大的泛化差距——训练损失持续改善，留出图上的损失却在恶化，且早停并不能阻止这一趋势。
记忆与结构出现的先后
论文进一步比较了记忆与生成结构出现的时间顺序。记忆的开始总是早于生成图中社区结构的形成，这意味着在记忆已经发生的那些检查点上，模型产出的图还没有任何结构。作者在测试过的所有节点规模上都观察到同样的行为，说明这不是某一规模下的偶然现象。对使用者而言，这意味着按社区结构是否出现来挑选检查点并不可靠，因为在此之前模型可能已经记住了训练图。
为什么值得看
常用评测指标看不出图扩散模型的记忆问题，论文给出新的检测视角，值得做图生成的研究者核对。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。