论文提出组合策略违规概念
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载单步合规为何不够
这篇论文把注意力放在智能体工作流的治理方式上。当前围绕这类系统的管控手段基本都落在单个步骤的范围内：对输入输出做分类判别、对每一轮对话设护栏、在文本片段层面做评估。但组织真正持有的规则并不是针对某一步的，比如转介门槛、权限上限、复核要求，它们描述的是整段执行过程的性质。论文指出这里存在一种错配，并由此提出一种失效模式，称为组合式策略违规（CPV）：每一步单独看都通过了自己的检查，可把这些步骤拼起来之后，整体执行却违反了所应遵循的策略。作者给出的解释是，针对单步的判定无法评估该步骤本身并不决定的性质，因此无论把步骤级监控器的准确率提到多高，都发现不了这一类问题。
四类违规与修复依据
论文把 CPV 界定为步骤级合规无法组合的情形，并划分出四种类型：权限蔓延、阈值洗白、累计求和违规、上下文崩塌。四类问题各自对应不同的发生位置，作者据此说明，每一类正确的修复方式取决于被守护的量在何处发生变化。换句话说，问题出在哪个环节改变了关键数值，修复就应当落在那个环节，而不是继续加固单步检查。这一部分构成了论文的分类框架，也是后续架构设计的出发点。
按完整轨迹重算
在分类之外，作者提出一种具备来源感知能力的运行时架构。它的做法是把策略放到完整的执行轨迹上评估，并且从原始来源数据重新计算被守护的量，而不是沿用流水线已经加工出的派生表示。这样处理的用意在于绕开中间环节可能已经失真的数值，让判定建立在可追溯的原始记录之上。论文正文共 11 页，含 6 幅图与 2 张表，提交时间为 2026 年 9 月 16 日，次日更新了版本。
对使用者的含义
对部署智能体工作流的团队来说，这项工作的提示是：把合规检查全部押在单步分类器和逐轮护栏上，会留下一块监控盲区，而且这块盲区不会因为监控器变准而缩小。论文给出的方向是把评估对象从单步扩展到整条执行轨迹，并从原始来源重算关键量。适用范围上，材料讨论的是受监管场景中具有后果的决策流程，以及转介门槛、权限上限、复核要求这类整体性规则；至于该方法在何种系统规模、何种策略语言下可用，材料未作说明。
为什么值得看
揭示了智能体安全监控的盲区，提出了从单步检查转向全流程溯源的解决思路。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。