新研究提出DEFECt3R模型,实现多视图图像几何不一致像素级定位

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对新视图合成(NVS)模型生成图像间存在几何不一致的问题,现有评估方法难以直接用于多媒体取证中的不一致定位。为此,研究团队构建了包含像素级标注的宽基线多视图数据集DeformView。实验表明,现有评分方法向取证任务迁移效果差。团队提出轻量级分类器DEFECt3R,利用跨视图特征关系与显式监督(含难负样本)实现像素级定位,显著降低误报率。消融实验证实特征表示与对应质量均影响定位效果。代码与数据集已公开,被ACM Multimedia 2026的DFF研讨会接收。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

宽基线多视图数据集

这项研究围绕多视图图像之间的几何一致性展开。新视角合成模型能够从不同视点生成同一场景的逼真画面,但这些生成视图彼此之间未必在几何上自洽。多视图一致性此前多被用于评估新视角合成模型,而它在多媒体取证领域的潜力尚未被充分挖掘,尤其是在宽基线图像对之间定位几何不一致这一点上。为推进该方向的研究,作者构建了 DeformView,这是一个宽基线多视图数据集,其特点在于对几何不一致区域提供了像素级标注。宽基线意味着两幅视图的拍摄视角差异较大,这比视角接近的图像对更难处理,也使像素级标注的获取更具挑战。数据集与代码均已公开,作者将其作为该任务的基准与基线,供后续研究比较使用。该论文共 8 页,被 ACM Multimedia 2026 的 Deepfake Forensics Workshop 接收。

现有评分方法迁移不佳

作者利用 DeformView 对当前先进的多视图一致性评分方法进行了评测。结果显示,这些为评估新视角合成而设计的方法,在几何不一致定位这一取证任务上迁移效果很差。换言之,一个方法若擅长判断生成视图整体是否一致,并不代表它能指出画面中具体哪一块区域出现了几何偏差。这种差距说明两类任务的输出要求不同:评分方法通常给出整体一致性分数,而取证场景需要的是像素级的定位结果。评测所揭示的迁移困难,正是作者提出新方法的直接动因,也构成了该数据集作为基准的价值所在——它把此前被忽视的定位能力单独拎出来衡量。

轻量分类器与监督设计

针对上述局限,作者提出 DEFECt3R,一个轻量的、基于学习的分类器。它利用跨视图的特征关系,在像素层面定位几何不一致。与依赖整体一致性评分的方法不同,该模型通过显式监督进行学习,其训练数据中包含一类特殊的困难负样本:这些视图在几何上是一致的,但画面本身发生了形变。引入这类负样本的目的,是让模型不要把单纯的形变误判为几何不一致。相比已有的一致性评分方法,DEFECt3R 在定位表现上有所提升,并大幅减少了误报。消融实验进一步表明,特征表示与对应关系的质量都会影响定位效果,两者共同决定了最终性能。对读者而言,这意味着多视图几何一致性是一个有前景但尚待深入探索的取证信号,而该工作同时给出了可复现的基准与基线方法。

为什么值得看

为多视图几何不一致的像素级取证定位提供了新数据集、基线与方法,显著降低误报。

论文数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Geometric Inconsistency Localization in Multi-View Image Sets

关键事实

  • 研究提出了DeformView数据集,包含宽基线多视图图像及几何不一致的像素级标注[1]

  • 现有用于NVS评估的多视图一致性评分方法在几何不一致定位取证任务上迁移效果差[1]

  • 提出轻量级学习分类器DEFECt3R,利用跨视图特征关系定位像素级几何不一致[1]

  • DEFECt3R通过显式监督(含几何一致但变形视图的难负样本)降低误报并提升定位性能[1]

  • 该论文被ACM Multimedia 2026的Deepfake Forensics Workshop接收,代码与数据集已公开[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。