AgenticRV：面向智能体AI的运行时验证架构发布
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载架构如何解耦边界与形式化
论文针对智能体AI系统的监控难题：这类系统把模型决策、可变状态、工具调用以及向外部智能体的委派混在一起，监控需要来自不同执行边界的观测，而预防则要求在操作产生效果之前实施控制。AgenticRV的做法是把这些边界与监控所采用的形式化方法分开。适配器负责发出规范化事件，每个监控器拿到的是属于自己的投影与抽象，而不是统一的一份观测。决策策略则依据规范化后的裁决，选择由相应适配器支持的反应动作。这样做的目的是让监控方法可以在显式的控制边界上被复用，而不必绑定某一种形式化体系。
形式化条件与效果区分
作者对若干性质做了形式化：观测在什么条件下是充分的，监控器被替换时决策能否保持，以及阻断在什么情况下能防止不安全效果。论文还区分了被拒绝的尝试与已完成的效果，避免一个常见假设——被阻断的请求会让每个监控器都停留在永久违规状态。这一区分关系到监控器状态如何随阻断动作演进，也是该架构在语义层面与既有方案不同的地方。论文同时列出了观测与部署方面的假设，结论的适用范围受这些假设约束。
实现与实验证据
Python实现支持LangGraph、MCP和A2A三种框架。在受控的LangGraph实验中，作者把外部的Reelay时序监控器与一个程序化报告监控器组合使用，消融实验显示，针对所选需求，两者都是必要的。此外还有差分检查与跨适配器测试，作为集成层面的进一步证据。论文给出一个由LLM驱动的应急响应示例，用以说明同一条执行路径，并用已有的微基准来隔离框架本身的开销。
为什么值得看
智能体系统涉及工具调用与外部委派，如何在操作生效前实施控制是可落地的工程问题，该工作给出了可复用的架构与形式化条件。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。