EMNLP 2026论文提出GUARD：大推理模型自然遗忘框架
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载遗忘要管住思维链
大型推理模型在给出最终答案前会先输出中间推理步骤，被保护的事实或不安全的推理依据可能在这些步骤里先露出来，等到最终答案时已经晚了。已有的遗忘方法大多只针对目标内容做压制，或者改动模型内部的表示方向，却没有规定遗忘之后模型应当沿着什么样的路径继续生成。这种空缺会带来三类问题：模型用编造的内容顶替原本该被遗忘的部分，输出边界变得混乱，或者陷入重复表述。GUARD 的出发点是把遗忘当作一条需要学习的轨迹来处理，而不是单纯把某段内容抹掉。
把不安全披露改成安全出口
GUARD 的全称是引导式答案—推理蒸馏。它的做法是先把模型自己生成的不安全披露收集起来，改写成一条安全的退出轨迹：前半段是一段连贯但不泄露信息的推理过程，后半段是一个稳定的拒绝式回答，两者合起来替换掉原来的披露内容。随后用一个冻结的推理模型，借助引导标记让它的行为对齐到这条轨迹上，再把这种被引导出来的行为蒸馏进目标模型。这样模型学到的不只是不说什么，还包括在原本会披露的位置上应当怎样继续往下写。
补一个替代质量指标
只统计泄露有没有减少并不够，因为模型可能用胡编的内容填上空缺。为此作者提出自然遗忘推理评分 NFRS，从三个方面衡量遗忘后的输出：结构是否稳定、表达是否流畅、有没有出现缺乏依据的替代内容。这个指标与泄露率配合使用，可以区分真正干净的遗忘和表面合规但内部混乱的输出。实验在 R-TOFU 以及一个由 STAR-1 衍生的有害意图设定上进行，覆盖两个被广泛采用的蒸馏版推理模型，结果显示不安全披露与隐私披露都明显下降，同时推理能力得到保留。论文被 EMNLP 2026 主会议接收，代码已公开。
适用边界与读者关注点
这套方法针对的是带思维链的推理模型，普通非推理模型并不在其讨论范围内。它的效果依赖模型自身生成的不安全披露样本，需要先有这类样本才能改写成安全轨迹；引导阶段使用的是一个冻结的模型，蒸馏则把行为迁移到目标模型上。对关注模型安全落地的读者来说，值得留意的是评价口径的变化：过去只看目标内容是否还能被问出来，现在还要看遗忘之后模型说的话是否连贯、是否稳定、有没有拿编造内容充数。这决定了遗忘后的模型在实际对话中是否还能正常使用。
为什么值得看
解决LRM遗忘后输出幻觉或重复的痛点，提供不泄露且保持推理能力的机器遗忘新路径。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。