LGM框架提出潜在神经符号推理解耦长期记忆

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对个性化智能体处理长期历史交互时面临的记忆纠缠与噪声问题,LGM框架将记忆解耦转移至连续潜在空间。该方法利用稀疏自编码器构建潜在图,将历史交互映射为潜在记忆节点并解耦为稀疏概念激活,动态合成与查询相关的边权重。实验显示,该框架在捕捉显性与隐性偏好方面显著优于现有基线。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把记忆拆进潜空间

这篇论文关注的是个性化智能体在长期交互历史中做推理的问题:它既要识别用户说出口的偏好,也要从行为痕迹里推断没有明说的倾向。作者把现有做法归为两类。早期做法是扁平检索,对记忆片段逐个打分,片段之间的分布式关联被忽略;后来的结构化记忆框架改用静态图,但图与查询无关,无法表达随上下文变化的关系。作者还指出,原始文本记忆本身纠缠且含噪,直接在其上做细粒度个性化与跨会话推理,计算代价很高。为此,论文提出名为 LGM 的神经符号框架,核心思路是不在原始文本层面拆解记忆,而是把这一过程搬到连续潜空间里完成,让记忆的组织方式随查询动态生成,而不是事先固定。

稀疏自编码器建图

LGM 的第一项设计针对图结构本身。它不保存一张固定不变的图,而是用稀疏自编码器构建潜图:面对每一次查询,历史交互被映射成潜记忆节点,记忆痕迹被拆解为稀疏的概念激活,查询相关的关系边权重则在这一过程中动态合成。这样,同一段历史在不同查询下可以呈现不同的连接方式,静态图无法随问题变化调整的局限由此被绕开。稀疏性在这里承担了区分角色,让不同概念激活彼此分离,减少纠缠文本带来的噪声干扰。与逐条打分的扁平检索相比,这种做法利用的是片段之间的分布式信息;与查询无关的静态图相比,它把查询条件直接纳入建图环节。

查询引导消息传递

第二项设计是图编码器。它把查询嵌入当作条件化的偏好信号,用来引导非线性消息传递,消息传递的范围限定在与任务相关的潜子图上,而不是整张图。经过这一层处理,得到的记忆表示被作者描述为表达力较强,便于后续有效激活。整个流程可以理解为:先按查询把历史拆成潜节点与稀疏概念,再在查询引导下于子图内聚合信息,最终支撑个性化回复的生成。论文在长期个性化基准上做了实验,报告的结果是 LGM 在捕捉显式偏好与隐式偏好两方面都明显优于现有基线方法,同时能够给出个性化响应。

适用范围与限制

从论文给出的信息看,LGM 的适用场景是需要跨会话理解用户长期历史的个性化智能体,评价维度集中在显式偏好与隐式行为证据两类。材料没有披露具体的基准名称、数据集规模、对比基线清单以及各项指标的数值,因此无法判断提升幅度有多大,也无法确认它在其他任务上的表现。方法层面,潜图构建依赖稀疏自编码器,消息传递依赖图编码器,两者都需要针对查询实时计算,这与持久化固定图的做法在计算路径上不同,但论文摘要未给出效率或开销方面的数据。对关注长期记忆组织的读者而言,这项工作的可参考之处在于把记忆拆解从文本层移到潜空间,并让图结构随查询变化;至于实际部署中的成本与稳定性,材料中没有可供引用的结论。

为什么值得看

解决长期记忆中的纠缠难题,提升个性化智能体的跨会话推理能力。

智能体

信源1 家

  1. [1]arXiv cs.AI一手信源Disentangling Long-Term Memory via Latent Neuro-Symbolic Reasoning

关键事实

  • LGM框架将长期记忆解耦转移至连续潜在空间。[1]

  • 利用稀疏自编码器构建潜在图,动态合成查询相关的边权重。[1]

  • 实验表明LGM在捕捉显性与隐性偏好上显著优于现有基线。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。