BiasFlow提出几何监控与骨干正则化以缓解伪特征依赖

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

BiasFlow是一个基于hook的工具包,用于监控类属性质心对齐(IBMI)等指标,并配套提出有监督、可组合的BiasFlow正则化(BFR)。在UrbanCars上,加入BFR使最差组精度(WGA)最高提升26.0个百分点。在CelebA-Std骨干冻结重训头部的压力测试中,BFR结合GroupDRO将WGA从40.7%提至64.1%,同时Male探针精度从92.5%降至72.2%,表明属性信息仍可恢复。合成水印ImageNet实验中,水印偏移精度提升23.0个百分点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

监控指标与正则化方法

BiasFlow作为基于hook的工具包,主要监控类属性质心对齐(IBMI)、类内质心分离(W-IBMI)及特征投影敏感性。其中IBMI受类属性相关性混淆,并非因果特征依赖的度量。配套的BiasFlow正则化(BFR)是一种有监督且可组合的类条件质心对齐惩罚项。W-IBMI用于验证BFR优化的量,其具有尺度依赖性,无法独立确立属性移除。

基准测试与精度提升

在小规模基准测试中,加入BFR能改善或保持平均最差组精度(WGA)。在UrbanCars数据集上,WGA增益最高达26.0个百分点。此外,在受控的合成水印ImageNet实验里,匹配训练条件下,水印偏移精度提升了23.0个百分点。这些结果支持在评估WGA的同时,应考察质心几何及对偏置头部重训的抵抗力。

骨干冻结压力测试

核心独立压力测试采用冻结CelebA-Std骨干并在偏置数据上训练新头部的设定。结果显示,BFR结合GroupDRO将WGA从40.7%提升至64.1%,同时Male探针精度从92.5%降至72.2%。这表明属性信息在骨干中依然可恢复,且跨任务结果表现不一,说明该方法在消除伪特征依赖方面仍存在局限性。

为什么值得看

提供监控与缓解模型伪特征依赖的新工具,在冻结骨干重训场景下显著提升最差组精度。

对齐

信源1 家

  1. [1]arXiv cs.AI一手信源BiasFlow: Geometric Monitoring and Backbone Regularization for Spurious Feature Reliance

关键事实

  • BiasFlow包含基于hook的监控工具包及BiasFlow正则化(BFR)方法[1]

  • 在UrbanCars基准上,加入BFR使最差组精度提升达26.0个百分点[1]

  • CelebA-Std冻结骨干重训测试中,BFR+GroupDRO将WGA从40.7%提至64.1%[1]

  • 合成水印ImageNet实验中,匹配训练下水印偏移精度提升23.0个百分点[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。