UAPA 提出开放集测试时自适应方法,OSCR 提升 2.08 个百分点

论文AI 评分 66/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对开放集测试时自适应中协变量偏移的分布内样本(csID)与分布外样本(csOOD)混杂、现有方法按闭集假设设计而缺乏区分机制的问题,作者提出即插即用的 UAPA 方法。该方法先用分类器-原型得分与批内归一化的证据不确定性得分共同区分两类样本,再周期性用缓存特征精炼类原型,并对 csID 做熵最小化、对 csOOD 做熵最大化,配合原型级对比学习。在 CIFAR 基准与 Tiny-ImageNet-C 上,平均 OSCR 分别比最强基线高 2.08 和 1.28 个百分点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

问题设定与失效原因

开放集测试时自适应处理的是无标签测试流中同时存在协变量偏移的分布内样本(csID)与协变量偏移的分布外样本(csOOD)的情形。已有 TTA 方法大多建立在闭集假设之上,没有专门机制把这两类样本可靠地区分开。结果是 csOOD 样本被当作可信样本纳入以提升置信度为目标的自适应过程,产生有害梯度,反而拉低已知类别的表现。论文把这一混淆视为开放集自适应需要优先解决的问题,并据此设计方法。

三步组成的 UAPA 流程

UAPA 由三个环节构成。第一步是不确定性驱动的 ID/OOD 分离,把分类器-原型得分与基于证据、经小批量归一化的不确定性得分结合起来,作为区分 csID 与 csOOD 的依据。第二步是动态原型精炼,利用缓存中的 csID 特征周期性更新各类别的目标原型,使原型逐步贴近估计出的类方向。第三步是对比原型熵自适应:对 csID 样本施加熵最小化,对 csOOD 样本施加熵最大化,同时在原型层面做对比学习,让 csID 特征靠近对应目标原型,并压低 csOOD 特征与已知类原型的最大相似度。整个方法被描述为可插拔形式。

实验结论与适用范围

在 CIFAR 系列基准与 Tiny-ImageNet-C 上,UAPA 的平均 OSCR 超过对比中最强的基线,两项分别高出 2.08 与 1.28 个百分点。OSCR 同时反映已知类识别与未知类拒识的表现,因此这一增益对应的是开放集整体判别能力的改善,而不只是闭集精度。材料未给出参数量、推理开销、代码发布情况或具体适用模型规模等信息,实际部署成本与可迁移性仍需查看原文实验部分。

为什么值得看

开放集场景下如何避免分布外样本污染自适应过程,是 TTA 落地的关键障碍;该方法给出可插拔的分离与对齐方案,并附量化增…

论文

信源1 家

  1. [1]arXiv cs.AI一手信源Uncertainty-Aware Prototype Learning for Open-Set Test-Time Adaptation

关键事实

  • 论文提出名为 UAPA 的即插即用开放集测试时自适应方法[1]

  • 方法结合分类器-原型得分与批内归一化的证据不确定性得分来区分 csID 与 csOOD 样本[1]

  • 采用动态原型精炼,周期性用缓存的 csID 特征更新类原型[1]

  • 对 csID 做熵最小化、对 csOOD 做熵最大化,并进行原型级对比学习[1]

  • 在 CIFAR 基准和 Tiny-ImageNet-C 上平均 OSCR 分别提升 2.08 和 1.28 个百分点[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。