ViGeo框架将视觉类比扩展至视频域,免微调统一多任务

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对视频模型适配新任务需专门微调的痛点,ViGeo框架通过时空画布补全机制,把视觉上下文学习推广到视频领域,实现免训练的任务指定。在严格划分训练测试集的多种任务上,该框架能泛化至未见过的视频操作及事件相机等零样本模态。研究还发现预训练任务格式会覆盖示例导致“任务内化”捷径,引入少量无关数据即可消除此现象,凸显解耦提示格式与任务标识的必要性。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把类比从图像搬到视频

这篇论文关注的是视频模型迁移到新任务时的成本问题。常规路径需要为每个新任务单独整理数据并做微调,而视觉类比提供了一种免训练的做法:把任务要求直接放进上下文里说明,模型据此完成推理。不过作者指出,这类类比方法此前基本停留在图像领域。为此他们提出 ViGeo,把视觉上下文学习扩展到视频,核心机制是时空画布补全,也就是让模型在时间与空间构成的画布上补出缺失内容,从而以统一形式承载多种视频任务。论文提交于 2026 年 9 月 27 日,作者为 Chia-Hsiang Kao、Belinda Zeng、Bharath Hariharan 与 Menglin Jia,编号 arXiv:2609.33935,归入计算机视觉与人工智能分类。

严格划分下的泛化表现

评估方式上,作者使用了一套覆盖多种任务的分类体系,并采用严格的训练与测试划分,避免测试任务在训练阶段被见过。结果显示,ViGeo 能够处理训练中未出现的视频操作,也能应对零样本模态,例如事件相机数据。这意味着方法的价值不在于把某一类视频任务做得更准,而在于用同一套类比框架承接差异较大的任务,并在分布外场景中保持可用。对读者而言,如果手头有多个视频任务却缺少逐任务标注与微调资源,这种免训练思路提供了一条替代路径;但它的适用范围仍受限于上下文能否清晰表达任务意图,以及画布补全形式与目标任务是否匹配。

任务内化这一捷径

论文还报告了一种被称为任务内化的现象:当查询所用的格式与某个预训练任务相关联时,这种格式本身会压过演示内容,模型倾向于按格式暗示的任务作答,而不是依据给出的示例。作者进一步说明,这种捷径可以通过加入少量与任务无关的数据来消除。由此得出的提醒是,提示格式与任务身份之间存在相关性,需要在设计时把二者解耦,否则评估结果可能高估模型真正依据示例推理的能力。这一发现对使用上下文学习的人具有直接的操作意义:除了挑选示例,还要留意查询模板是否无意中泄露了任务标签。

为什么值得看

提供免微调适配视频新任务的路径,解决模型泛化与提示格式耦合痛点,对多模态应用有参考价值。

微调

信源1 家

  1. [1]arXiv cs.AI一手信源Video, Ergo Genero: Unifying Video Tasks via Spatiotemporal Analogy

关键事实

  • ViGeo框架通过时空画布补全将视觉上下文学习扩展至视频域,实现免微调统一多任务[1]

  • 该框架能泛化到未见过的视频操作及事件相机等零样本模态[1]

  • 研究揭示“任务内化”现象:预训练任务格式会覆盖示例,引入少量无关数据可消除该捷径[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。