SAMPLESELECT提升音频少样本学习泛化性

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对音频少样本分类器依赖前景背景共现导致分布外表现下降的问题,研究者提出SAMPLESELECT方法。该方案在冻结编码器和源分类器的前提下,为每个输入预测固定预算的特征掩码。训练采用可微分的Gumbel Top-k选择机制,结合前景分类与跨背景对比损失;推理阶段使用确定性Top-k掩码及仅支持集线性适应。在ResNet12和Conv64架构的5-way 1-shot及5-shot评估中,该方法在对比方案中取得了最佳分布外准确率,相比匹配的全表征控制组提升了4.90至8.38个百分点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

偏移集中在少数通道

这项研究关注小样本音频分类器的一个脆弱点:模型可能借助前景与背景之间的共现关系做出判断,一旦这种关联发生变化,性能就会下降。作者在 SpurAudio 上观察到,由此产生的表征偏移并非均匀分布,而是集中在部分通道上,并且与类别相关。以 ResNet12 为例,材料给出的描述是偏移贡献高度集中,排名靠前的通道解释了绝大部分经零校正后的偏移贡献。这一观察构成了后续方法的设计前提:既然偏移只落在有限通道上,就可以在输入层面挑选通道,而不是整体依赖完整表征。

冻结编码器做逐样本掩码

作者提出名为 SAMPLESELECT 的方法,为每个输入单独预测一个固定预算的特征掩码,同时保持编码器与源分类器冻结,不参与更新。训练阶段采用可微的 Gumbel Top-k 选择,并配合两项损失:前景分类损失与跨背景对比损失。推理阶段则改用确定性的 Top-k 掩码,并只基于支持集做线性适配。这样做的效果是把适配成本压在很轻的范围内,主干网络无需重新训练,选择机制成为唯一被学习到的部分。

与完整表征方案的对比

在 ResNet12 与 Conv64 两种骨干上,作者按 5-way 1-shot 与 5-shot 设置做了评估。结果显示,在参与比较的方法中,SAMPLESELECT 取得最好的 OOD 准确率;与匹配的完整表征对照组相比,提升幅度为 4.90 至 8.38 个百分点。论文还通过消融实验与表征分析,为所学到的选择机制提供了支持。对读者而言,这意味着在音频小样本场景下,与其让分类器被动承受背景关联漂移,不如在通道层面主动筛掉易受干扰的部分,且无需改动已训练好的编码器。

为什么值得看

解决了音频少样本学习中特征偏移难题,显著提升分布外准确率。

信源1 家

  1. [1]arXiv cs.AI一手信源Sample-Conditioned Representation Selection for Audio Few-Shot Learning

关键事实

  • SAMPLESELECT为每个输入预测固定预算特征掩码,冻结编码器和源分类器。[1]

  • 训练使用可微分Gumbel Top-k选择,推理使用确定性Top-k掩码及支持集线性适应。[1]

  • 该方法在5-way 1-shot和5-shot评估中OOD准确率最佳,比对照组提升4.90-8.38个百分点。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。