SAMPLESELECT提升音频少样本学习泛化性
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载偏移集中在少数通道
这项研究关注小样本音频分类器的一个脆弱点:模型可能借助前景与背景之间的共现关系做出判断,一旦这种关联发生变化,性能就会下降。作者在 SpurAudio 上观察到,由此产生的表征偏移并非均匀分布,而是集中在部分通道上,并且与类别相关。以 ResNet12 为例,材料给出的描述是偏移贡献高度集中,排名靠前的通道解释了绝大部分经零校正后的偏移贡献。这一观察构成了后续方法的设计前提:既然偏移只落在有限通道上,就可以在输入层面挑选通道,而不是整体依赖完整表征。
冻结编码器做逐样本掩码
作者提出名为 SAMPLESELECT 的方法,为每个输入单独预测一个固定预算的特征掩码,同时保持编码器与源分类器冻结,不参与更新。训练阶段采用可微的 Gumbel Top-k 选择,并配合两项损失:前景分类损失与跨背景对比损失。推理阶段则改用确定性的 Top-k 掩码,并只基于支持集做线性适配。这样做的效果是把适配成本压在很轻的范围内,主干网络无需重新训练,选择机制成为唯一被学习到的部分。
与完整表征方案的对比
在 ResNet12 与 Conv64 两种骨干上,作者按 5-way 1-shot 与 5-shot 设置做了评估。结果显示,在参与比较的方法中,SAMPLESELECT 取得最好的 OOD 准确率;与匹配的完整表征对照组相比,提升幅度为 4.90 至 8.38 个百分点。论文还通过消融实验与表征分析,为所学到的选择机制提供了支持。对读者而言,这意味着在音频小样本场景下,与其让分类器被动承受背景关联漂移,不如在通道层面主动筛掉易受干扰的部分,且无需改动已训练好的编码器。
为什么值得看
解决了音频少样本学习中特征偏移难题,显著提升分布外准确率。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
