EpiSEM-Bench 发布：评测 LLM 智能体在证据缺失下的安全边界
论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇 arXiv 论文提出 EpiSEM-Bench，用于评测工具调用型语言模型智能体在关键事实被省略时的表现。基准包含六个领域共 300 组配对的不安全与安全任务，通过系统性屏蔽关键事实，测量智能体在证据缺失下执行被禁止动作的情况，并记录最小失败基数。配套审计工具检查智能体是否会主动寻找缺失事实，并在完成允许任务的同时不执行被禁止的动作。结果显示，十个模型在抗遗漏、证据获取与恰当行动上差异明显；对缺失证据的抵抗力不等于有效恢复，恢复访问能降低全部十个模型的不安全执行，但各模型是否主动获取并利用缺失事实仍不一致。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载基准针对什么问题
论文关注的是工具调用型语言模型智能体的一种失效方式：智能体依据环境事实判断某个动作是否被允许，当工具返回结果省略了与安全相关的事实，用户请求本身无害、每条返回语句也都为真，智能体仍可能执行被禁止的动作。EpiSEM-Bench 就是为评测这种不安全执行、安全边界与证据恢复能力而设计的可执行基准，它把问题定位在信息不完整而非信息错误上。
任务构成与测量方式
基准由六个领域共 300 组配对的不安全与安全任务组成，每组任务在结构上相互匹配。评测通过系统性屏蔽关键事实来构造证据缺失条件，测量智能体在此条件下的不安全执行情况，并确定观察到的最小失败基数，其中也包含证据完整时的失败，以及穷尽测试后仍未观察到失败的情形。另有一套独立审计工具，用于检验智能体是否会主动寻找缺失事实，并在完成允许任务的同时不执行被禁止的动作。
十个模型的差异
在十个受测模型上，抗遗漏能力、证据获取行为与恰当行动三方面都呈现出较大差异。论文指出，对缺失证据的抵抗力并不必然转化为有用的恢复能力；提供恢复访问后，全部十个模型的不安全执行都有所下降，但各模型是否主动获取缺失事实、并把它们用于在两种情形下都做出恰当行动，表现并不一致。
为什么值得看
工具调用智能体的安全评测多假设信息完整，这份基准专门针对关键事实缺失场景，并给出可执行的配对任务与审计方法。
智能体安全论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。