SIFR:频域双流框架提升语义分割跨域泛化

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

arXiv 收录论文提出 SIFR,一种频域感知的双流框架,用于域泛化语义分割。该方法不直接融合冻结的 CLIP 与 DINOv2 特征,而是先做频谱引导的不变融合,滤除对域敏感的响应,同时保留语义与结构上的互补信息;解码阶段加入频谱解码细化模块,用低频统计归一化和自适应频率选择稳定多尺度特征,减少残余域偏差在密集预测中传播。在合成到真实、真实到真实及恶劣天气等多组基准上,结果一致优于此前最优方法。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

问题与既有做法

域泛化语义分割要求模型在训练阶段完全接触不到目标域数据的情况下,仍能对未见域做准确的密集预测。已有路线大致分三类:扩充数据多样性、做不变性学习,或者直接调用基础模型。这些做法各有短板,难以同时压住对域敏感的干扰并保住细粒度的空间线索。论文把这一矛盾作为切入点,提出在融合与解码两个环节同时处理域偏移。

频谱引导的融合

SIFR 的整体设计是双流结构,并把频谱建模当作统一原则,用来同时约束异构先验的交互和密集解码器的细化。在融合环节,它没有把冻结的 CLIP 与 DINOv2 特征直接拼接或相加,而是先做频谱引导的不变融合,把对域敏感的响应过滤掉,再保留两者在语义和结构上的互补信息。这样做的目的是让进入后续网络的特征本身就更少携带域相关成分。

解码端的细化

解码阶段另设频谱解码细化模块,依靠基于低频统计的归一化以及自适应频率选择,让多尺度解码特征更稳定,从而抑制残余域偏差在密集预测中逐层传播。论文称这一设计使模型在分布偏移严重时,能同时改善域鲁棒性与分割精度,而不是以牺牲其中一项为代价换取另一项。

实验范围

验证覆盖多个 DGSS 基准,包括合成到真实、真实到真实以及恶劣天气三类设置,结果显示相对此前的最优方法有一致提升。论文提交于 2026 年 10 月 29 日,归类为计算机视觉与模式识别,同时标注人工智能方向。

为什么值得看

把频域建模同时用于特征融合与解码,为不接触目标域数据的跨域分割提供了可复用的思路。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源Spectral Invariant Fusion and Refinement for Domain Generalized Semantic Segmentation

关键事实

  • 论文提出 SIFR,一个频域感知的双流框架,在融合与解码两个阶段应对域偏移。[1]

  • SIFR 不直接融合冻结的 CLIP 和 DINOv2 特征,而是做频谱引导的不变融合。[1]

  • 频谱解码细化模块通过低频统计归一化与自适应频率选择稳定多尺度解码特征。[1]

  • 在合成到真实、真实到真实和恶劣天气等 DGSS 基准上,结果一致优于此前最优方法。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。