小世界网络智能体头脑风暴提升AI风险识别新颖度
论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
针对参与式AI风险评估初期易遗漏间接或系统性危害的问题，研究者提出三阶段构思支持工具：动态发现利益相关者、用LLM模拟并连接成特定拓扑网络进行风险构思、用网络中心性指标排序风险。在AI聊天机器人用例中，基于小世界网络与介数中心性的方法，在五点量表下比单LLM构思新颖度高1.1分，比智能体LLM构思高0.5分，且不降合理性或严重性。将11个非西方年轻用户团队分为对照与实验组参与评估，使用该框架生成风险列表的实验组识别出更多总体风险及系统性、人机交互与环境风险。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载三阶段风险构思机制
参与式AI风险评估初期常面临空白或预定义风险有限，难以浮现间接或系统性危害。为此，研究者提出三阶段构思支持工具作为参与式AI的补充而非替代。第一阶段根据给定AI用途动态发现利益相关者并递归向外扩展，使易被忽略的间接利益相关者显现；第二阶段利用LLM模拟这些利益相关者，将其连接成特定拓扑网络并让其构思风险；第三阶段采用网络中心性指标对风险进行优先级排序。
网络拓扑与中心性效果验证
在AI聊天伴侣用例的初步评估中，研究发现将智能体连接成小世界网络并使用介数中心性效果最佳。该方法能提升桥接不连通群体的利益相关者所提风险的权重，从而浮现传统方法常遗漏的新型系统性危害。量化结果显示，在归一化五点李克特量表下，该途径比单LLM头脑风暴的新颖度高约1.1分，比智能体LLM头脑风暴高0.5分，且未降低所识别风险的合理性或严重性。
人类主导评估中的表现
为验证框架对人类主导构思会议的帮助，研究将11个非西方年轻聊天机器人用户团队分为对照组与实验组，参与使用未来轮方法的评估。对照组使用初始评估中45名AI从业者生成的风险列表，实验组使用该框架生成的列表。结果表明，实验组识别出更多总体风险，且在系统性风险、人机交互风险及环境风险上识别数量更多。
为什么值得看
通过小世界网络与介数中心性结合LLM智能体，有效挖掘传统方法易漏的系统性AI风险，为风险评估提供新范式。
智能体
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。