注册

FedGraph 提出图聚合方法防御联邦大模型微调后门攻击

论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

针对联邦大模型微调中恶意客户端通过篡改更新植入后门的问题，研究者提出 FedGraph。该方法基于一个观察：恶意客户端的模型更新高度一致，而良性客户端的更新更分散，这种结构差异难以被在高维参数空间直接做异常检测的既有防御方法捕捉。FedGraph 将客户端建模为动态图中的节点，提取刻画相对位置与交互的结构特征，得到紧凑的客户端表示以区分恶意与良性行为，并在聚合阶段识别和抑制恶意贡献。实验显示攻击成功率降至 10% 以下，平均检测准确率 95.5%，误报率 2.33%。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

联邦微调的后门风险

联邦微调让多个客户端在不共享原始数据的前提下共同调整大语言模型，隐私性是其核心卖点。但这一设置对后门攻击高度敏感：恶意客户端可以篡改自己上传的更新，使模型在正常输入上表现如常，却在特定触发条件下产生攻击者预设的行为。论文指出，既有防御方法通常直接在高维参数空间做异常检测，而大模型的更新向量彼此纠缠，这类做法难以奏效，因此需要换一个角度刻画客户端之间的差异。

更新一致性这一观察

作者给出的关键观察是：在联邦大模型微调场景下，恶意客户端的模型更新往往表现出很强的一致性，而良性客户端的更新则更加多样、分散。这种结构层面的差别，正是高维参数空间中的直接异常检测难以捕捉的部分。论文把这一现象作为方法设计的出发点，即不再只看单个更新向量本身是否异常，而是看客户端更新之间的相互关系。

图聚合如何区分客户端

FedGraph 是一个基于图的聚合框架，它显式地对客户端更新之间的关系建模。具体做法是把客户端表示为动态构建的图中的节点，并提取能够刻画其相对位置与交互的结构特征，由此得到紧凑的客户端表示。这些表示能把恶意行为与良性行为有效分开，随后在聚合环节用于识别并压制恶意客户端的贡献。论文称该框架在实验中显著提升了后门防御效果，攻击成功率被稳定压到 10% 以下，平均检测准确率达到 95.5%，误报率为 2.33%，明显优于已有的联邦学习防御方案。

发表信息与版本说明

该论文于 2026 年 10 月 13 日提交至 arXiv，编号为 arXiv:2610.18430，归类于密码学与安全（cs.CR）以及人工智能（cs.AI）。论文被 ICLR 2026 Workshop on Principled Design for Trustworthy AI 接收。作者说明当前版本为作者自有的预印本，并非官方会议论文集版本。

为什么值得看

联邦微调的后门防御是隐私保护训练落地的关键一环，该方法给出了可量化的检测与抑制效果。

大模型微调论文

信源1 家

  1. [1]arXiv cs.AI一手信源FedGraph: Defending Federated Large Language Model Fine-Tuning Against Backdoor Attacks via Graph-Based Aggregation

关键事实

  • FedGraph 将客户端建模为动态图节点，提取结构特征得到紧凑表示以区分恶意与良性更新[1]

  • 该方法在聚合阶段识别并抑制恶意客户端的贡献[1]

  • 实验将攻击成功率降至 10% 以下，平均检测准确率 95.5%，误报率 2.33%[1]

  • 论文被 ICLR 2026 Workshop on Principled Design for Trustworthy AI 接收[1]

  • 作者为 Xi Chen、Chunyi Zhou、Rui Zeng、Xiaogang Xu、Zhe Liu、Shouling Ji[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论