PickMoment模型统一单图去模糊与连续时间视频生成

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

现有单图去模糊及模糊生成视频方法未充分建模物理模糊积分过程,前者仅恢复曝光中心单帧,后者仅预测固定帧数。PickMoment提出连续时间重构,单一确定性模型直接学习曝光期内任意子区间的均值模糊。训练结合经验重建、加性自洽与零区间锐帧三种监督。同一网络无需分别训练即可统一执行去模糊、生成视频及任意时刻恢复,单次前向传播无迭代采样。在GoPro与HIDE生成类去模糊达SOTA,RealBlur媲美恢复类方法,GoPro-7视频生成帧保真度最高。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把模糊当作区间积分

这篇论文的出发点是一个物理事实:运动模糊来自连续清晰信号在有限曝光窗口内的时间积分。作者指出,已有的学习类方法绕开了这一模型,只去预测清晰信号本身。多数单图去模糊方案的做法是恢复曝光中心处的一帧,而模糊转视频方案则预测一组固定数量的帧。PickMoment 提出一种连续时间的重新表述,用单个确定性模型直接学习曝光任意子区间上的区间均值模糊。作者把这一思路类比为 MeanFlow 的平均速度形式,并据此设计训练目标。

三种监督来自模糊积分

模型训练使用三种由模糊积分推导出的监督信号。第一种是经验重建损失,来自可获得的子帧;第二种是可加性损失,用来约束相互重叠的子区间之间保持自洽;第三种是清晰帧损失,锚定在区间长度趋近于零的极限处。作者强调,同一个训练完成的模型把单图去模糊、模糊转视频生成以及连续时间的任选时刻恢复统一起来,三者只是对同一网络的三种不同查询方式,不需要为每个任务分别训练。

一次前向无需迭代采样

在评测上,作者报告 PickMoment 在 GoPro 与 HIDE 上取得了生成式去模糊方法中的最优表现,在 RealBlur 上与基于复原的方法相比具有竞争力,并在 GoPro-7 模糊转视频任务上取得最高的逐帧保真度。这些结果都是在单次前向传播中得到的,不依赖迭代采样。对读者而言,这意味着原本需要分别处理的三类任务,可能由同一个模型以不同查询方式覆盖,且推理过程不必反复迭代。

为什么值得看

单模型统一去模糊与连续视频生成,单次前向传播无迭代,大幅提升模糊图像时序恢复的灵活性与效率。

信源1 家

  1. [1]arXiv cs.AI一手信源PickMoment: Continuous-Time Single-Image-to-Video via Learning Deblurring and Blur-to-Video

关键事实

  • PickMoment提出连续时间重构方法,单一模型学习曝光期内任意子区间的均值模糊。[1]

  • 模型训练采用经验重建损失、加性自洽损失与零区间锐帧损失三种监督。[1]

  • 单网络无需分别训练即可统一执行单图去模糊、模糊生成视频与任意时刻恢复。[1]

  • 在GoPro与HIDE生成类去模糊达SOTA,GoPro-7视频生成帧保真度最高,单次前向传播无迭代采样。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。