AI 圈大事记

新方法FairMean解决分布式学习中公平性与抗标签投毒冲突

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

分布式学习中,优先照顾高损失客户端以保公平的做法,易受标签投毒干扰,因投毒者同样制造高损失。Huigan Zheng等人提出FairMean算法,用局部损失的有界非递减函数为客户端梯度赋权。递增特性保障公平,上限则抑制投毒者梯度过分放大。无投毒时,优化该目标比标准平均损失更促公平;有投毒时,其平均平稳界与投毒客户端占比平方成正比。实验表明,该法降低了准确率方差并提升了最差客户端精度。

为什么值得看

直接化解分布式学习公平与鲁棒性矛盾,为存在恶意标签时的公平优化提供理论界与实用解法。

信源1

  1. [1]arXiv cs.AI一手信源FairMean: Promoting Fairness in Distributed Learning under Label Poisoning Attacks

关键事实

  • FairMean使用局部损失的有界非递减函数对客户端梯度进行加权[1]

  • 无标签投毒时,FairMean目标比标准平均损失目标更利于解的公平性[1]

  • 存在标签投毒时,FairMean的平均平稳界与投毒客户端占比的平方成正比[1]

  • 实验显示FairMean降低了准确率方差并改善了最差客户端准确率[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。