研究者提出角色锚定攻击，可污染智能体记忆中的用户偏好
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载漏洞出在角色归属
论文关注的是基于大模型的智能体在社交平台上共享经历、并把新偏好写入记忆这一常见做法。作者指出，现有记忆系统在「角色到主体」的归属上存在缺陷，并将其命名为 Role Grounding Misattribution：攻击者设计的交互会让受害智能体把攻击者的偏好，错误地记录成受害智能体自己用户的偏好。作者称这是首次把该攻击形式化为 Role Grounding Attack（RGA），其核心是利用嵌套的对话结构来制造归属混乱。
嵌套对话如何生效
攻击分两个阶段。在记忆形成阶段，攻击者发布一条分享帖，帖子引用攻击者智能体与其用户之间的一段对话，并明确标注发布者是谁；内层对话表达的是攻击者用户的偏好。受害智能体在记住这段嵌套结构中的偏好时，记忆丢失了上下文绑定，于是把攻击者的偏好归到了自己用户身上。在记忆检索阶段，这条被错误归属的偏好依然留存，当受害智能体遇到相关场景时，它会据此做出决策。
两种攻击形态
作者把 RGA 实例化为两种具体形式。工具选择操纵让一条工具调用偏好被误记到受害者的用户名下，从而把受害智能体引向攻击者控制的工具。隐私泄露在此基础上再叠加一条任务需求偏好，同样误记到受害者用户名下：受害智能体先选中攻击者的工具，随后为满足那条被植入的任务需求，在工具参数中写入敏感信息。
评测范围与结论
作者在五种主流记忆系统和六种语言模型上评测 RGA，工具操纵与隐私泄露两种攻击都取得了较高的成功率。论文据此提出，需要更强的角色锚定机制。该文归类于密码学与安全、人工智能以及多智能体系统方向。
为什么值得看
智能体记忆系统的角色归属漏洞被形式化，并给出可复现的攻击路径与跨系统评测结果。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。