论文提出CACFG方法,解决扩散模型高引导强度下质量问题
论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
扩散模型中无分类器引导(CFG)在高强度下会损害图像质量与多样性,且破坏采样动态。该研究将CFG采样构建为连续时间最优控制问题,求解HJB方程证明CFG源于无约束控制集,导致采样路径偏离当前图像估计。为此提出曲率感知的CACFG,将控制集约束在受VAE高斯正则化启发的超球面上。实验表明,CFG的控制输入常违反该约束,而CACFG在中高引导强度下生成质量更优,且质量与多样性的权衡劣化程度低于常规CFG。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载CFG的理论重构与缺陷溯源
扩散模型通过逆向腐败过程生成样本,无分类器引导(CFG)是条件生成的标准机制。尽管提高引导强度能改善图像质量与条件对齐度,但过高会导致质量与多样性退化,且破坏扩散采样动态。现有对CFG有效性的解释在底层理论上存在分歧,且无法扩展至实践中常用的确定性采样器。该研究将CFG采样重构为连续时间最优控制问题,将采样轨迹视为为最大化目标条件概率而选择的控制序列。通过求解哈密顿-雅可比-贝尔曼方程,证明在使用无约束控制集时,特定路径成本下可恢复CFG。研究认为,正是缺乏约束导致CFG在高强度下失效,因其允许采样路径任意偏离当前图像估计。
CACFG的约束机制与性能提升
为修复无约束控制集带来的偏离问题,研究提出曲率感知的CACFG。该方法借鉴变分自编码器训练时使用的高斯正则化,将控制集约束在一个超球面上。实验验证表明,常规CFG采样产生的控制输入频繁违反这一边界约束。在多种扩散模型、数据集及引导调度策略下的测试显示,CACFG在中至高引导强度区间实现了更优的生成质量,同时缓解了常规CFG面临的质量与多样性之间的严重权衡问题。
为什么值得看
从最优控制理论重新解释CFG机制,并提出CACFG约束采样路径,有效改善高强度引导下的生成质量与多样性权衡。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
