注册

研究：网络拓扑影响LLM群体的共识速度与抗攻击能力

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇 arXiv 论文把四个大模型的行为策略放进全连接、随机正则与异质网络中，让 10^3 至 10^5 个智能体玩命名游戏。结果显示，拓扑不仅决定共识出现的快慢，有时还决定共识能否出现，少数情况下甚至决定哪种约定胜出；最稀疏的网络把达成共识的时间拖慢至多十二倍，但由于保留了持续相邻节点之间的相关性，它在某些原本无法收敛的混合交互场景下反而促成了共识。网络结构同样决定群体抵御对抗攻击的能力：作者测量了推翻既有约定所需的坚定智能体临界规模，在异质度最高的拓扑上，枢纽、随机、低度节点三者的临界质量中位数分别为 3%、16%、35%，针对枢纽投放所需的人数仅为随机投放的六分之一。多数模型下，联网群体比混合群体更容易被扭转，因此混合交互下的估计会高估系统的稳健性。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

实验怎么搭的

作者从四个大模型中提取策略，把它们分别放到三类网络上：全连接、随机正则和异质网络。每个网络里由 10^3 到 10^5 个智能体参与命名游戏，观察它们如何就同一事物的叫法达成一致。此前关于 LLM 群体约定形成的研究大多只测试充分混合的交互方式，即每个智能体都能与任意其他智能体互动，而这项工作把“谁和谁相连”作为变量引入。

拓扑改变共识结果

网络结构首先影响共识出现的速度，最稀疏的网络把达成一致的过程拖慢至多十二倍。它有时还决定共识究竟能否形成，在少数情况下甚至改变最终胜出的约定是哪一种。值得注意的是，稀疏网络并非只有负面作用：它保留了持续相邻节点之间的相关性，使得某些在充分混合条件下无法收敛的情形重新收敛。这说明混合交互的假设会掩盖真实部署中可能出现的收敛行为。

抗操纵门槛随位置变化

作者用推翻既有约定所需的坚定智能体数量来衡量脆弱性。在异质度最高的拓扑上，把坚定智能体放在枢纽、随机位置和低度节点，临界质量的中位数依次为 3%、16% 和 35%，三者排序在不同模型和条件下保持一致。换算下来，针对枢纽投放所需的人数只有随机投放的约六分之一。对多数模型而言，联网群体比充分混合群体更容易被扭转，因此仅凭混合交互实验得出的稳健性判断会偏乐观。

对多智能体安全评估的含义

论文的落点在于：评估多智能体 AI 的安全性，需要把交互关系图纳入考量，而不只是看单个模型的表现。共识速度、能否收敛、哪种约定胜出，以及被少数坚定个体扭转的难度，都随拓扑变化。作者给出的临界质量数据可以直接作为不同网络位置上操纵成本的参照。

为什么值得看

多智能体部署中，谁与谁相连会改变共识速度与抗操纵门槛，安全评估不能只看单模型。

大模型智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Network topology shapes consensus and vulnerability in LLM populations

关键事实

  • 研究将四个大模型的行为策略放入全连接、随机正则和异质网络，智能体规模为 10^3 到 10^5，进行命名游戏[1]

  • 最稀疏网络使共识达成速度最多慢十二倍，但在部分混合交互不收敛的情形下恢复了共识[1]

  • 在异质度最高的拓扑上，枢纽、随机、低度节点的临界质量中位数分别为 3%、16%、35%[1]

  • 针对枢纽投放坚定智能体所需数量约为随机投放的六分之一[1]

  • 多数模型下联网群体比混合群体更易被扭转，混合交互估计会高估稳健性[1]

相关 · 论文

北大孙仲联合IBM等发布综述，重新定义现代模拟计算

11月3日 周二·AI 72

OpenAI 自 GPT-5.6 起部署激活分类器监控模型输出

11月3日 周二·AI 78

Pixel-UMI：从传感器化人类演示学习全身操作策略

11月3日 周二·AI 72

Pixel 全栈机器人系统：软硬件协同设计实现通用移动操作

11月3日 周二·AI 72

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论