arXiv 论文：临床多智能体系统存在「差异洗白」，共识无法消除偏见
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载会诊并未抹平偏差
这项研究把临床大语言模型当作多智能体团队来考察，出发点是一种常见设想：让多个智能体互相讨论，个体误差会在 deliberation 中被平均掉。论文给出的结论是，误差可以被平均，偏差不会。作者在 120 个真实的 MIMIC-IV 急诊病例上做了全因子实验，覆盖五个模型家族与四种聚合拓扑，并在反事实的人口统计特征互换条件下观察输出。结果显示，二十个实验格子里没有任何一种配置把差距消掉，每一个格子都沿用了其智能体独立作答时的方向，对黑人患者给出更紧急的分诊判断。
差距被挪走而非消除
实验里每个模型都存在某个会放大其基线差距的拓扑，但究竟是哪一种，随模型而变。这意味着没有哪种设计可以被认定为稳定安全，也没有哪种设计可以被认定为稳定放大，差距只是被搬到了别处。作者把这一现象称为 disparity laundering。与之相对，目前用于临床 AI 的审计是按模型、按输出、按版本分别做的，这类审计能够为各个零件背书，却无法为最终落定的那一个决策背书。
事后补救为何失效
论文检验了几类晚期修补手段。加入公平性指令、对人口统计信息做遮蔽，都没有触动差距；让每个智能体各自去偏，反而把差距拉大。作者给出的解释是，偏差已经写进了智能体日常输出的临床数值里，事后在措辞或输入层面动手，改不到已经编码进去的那部分。这也解释了为什么单看某一个版本的输出难以发现问题：偏差在汇总成结论的过程中被洗成了看起来合理的判断。
让反事实进入决策
作者指出，干预真正缩小差距的条件，是让反事实版本在系统内部可见，并通过 deliberation 把它们汇入最终决策。一种多视角集成同时做到了这两点，且不需要重新训练，也不需要改动架构，团队结构得以保留。在五个视角于每一轮都汇总的配置下，差距出现下降；而那个始终不把各视角汇总起来的拓扑，正是它无法可靠修复的一种。论文篇幅为 21 页，含 8 张图，代码已公开，投稿至 EACL 2027。
为什么值得看
揭示医疗多智能体共识会掩盖而非消除人口统计偏见，并给出可落地的集成修复方案，对做临床 AI 与多智能体评测的团队有直接…
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。