AutoTarget方法优化少步扩散Transformer缓存选择
论文AI 评分 65/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
少步扩散Transformer（DiT）通过步数蒸馏加速采样后，相邻步间距变大，预定义缓存复用策略会引入较大误差。为此提出AutoTarget方法，针对特定模型、求解器与复用调度动态选择缓存张量。该方法通过少量无缓存运行测量各候选张量复用误差并选最低者，同时分析了单步误差对最终生成结果的影响。在PixArt-LCM与FLUX.1-schnell测试中，AutoTarget减少了DiT评估次数与缓存占用，生成质量接近无缓存基线，其校准排序与留出缓存运行排序一致。核心代码已在GitHub开源。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载少步DiT缓存复用痛点
扩散Transformer能生成高质量图像与视频，但每个样本需多次昂贵的DiT前向传播。常用加速手段包括步数蒸馏与缓存复用。步数蒸馏减少了采样步数，却导致相邻步间距扩大。此时若沿用预定义的缓存策略跨较大间隔复用张量，会引入显著误差，因此甄别缓存目标变得极为关键。
AutoTarget动态选择机制
AutoTarget针对给定模型、求解器及复用调度来挑选缓存张量。其运作方式是：先执行少量无缓存运行，借此测算复用各候选张量所致的误差，进而挑出误差最小的候选。此外，研究还剖析了单次复用步的误差如何向最终样本传递。针对Euler采样，找出了能生成相同轨迹的缓存目标，并解释了为何存储求解器更新可能失效。实验表明，最优缓存目标会随模型、图像分辨率及求解器而变。
实验验证与代码开源
在蒸馏后的图像与视频DiT实验中，AutoTarget降低了DiT评估次数与保留的缓存存储量，且生成质量与对应无缓存运行相近。在PixArt-LCM与FLUX.1-schnell设定下，其校准排序与留出缓存运行所得排序相吻合。为便于复现，作者已在GitHub公开了核心实现代码。
为什么值得看
解决少步DiT缓存复用误差大的痛点，动态选缓存目标，降计算量且保生成质量。
蒸馏论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。