TRACE方法解决大模型多轮对话安全问题，35项测试ASR最低
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载单轮拒绝为何失效
安全对齐后的大语言模型在面对有害请求时通常会给出拒绝，可一旦把同一个目标拆散到多轮对话里，模型就可能配合。论文指出，偏好类目标函数是对单个提示下的整段回复打分，因此仅靠这类训练损失，无法约束模型在未见过的对话历史上的风险。作者给出的分析提出了若干充分条件：当监督式的单轮情境中风险被压制到一定程度时，多轮轨迹上的风险可以获得一个上界。这个上界由覆盖度、迁移余量和泄漏三部分构成，并刻画了相对于基础策略风险预算的收缩关系，而该预算是在被训练策略所处的上下文上评估的。
把原则落成词元目标
TRACE 全称 Trajectory Return Attribution and Contrastive Erasure，它把上述原则转化为词元级别的训练目标。在安全回复一侧，每个词元都按一个可归因于拒绝的优势的折扣回报来加权。这个优势来自两个模型的对比：一个是冻结的参考模型，另一个是把拒绝能力消融掉的副本，两者之差使得回复中较早出现的词元也能从后面与拒绝相关的证据里获得信用。在被拒绝的回复上，TRACE 选取差距较大的位置，把实际观察到的词元与策略自行选出的替代词元一起放进擦除目标中。此外，方法用一个梯度范数惩罚项取代了通常的保留集。
覆盖多模型多攻击
论文在五个开放权重模型和七种多轮攻击上做了评测。在全部三十五个模型与攻击的组合中，TRACE 都取得了最低的攻击成功率。与此同时，模型在 MMLU 与 HellaSwag 上的效用下降幅度有限。作者表示源代码可在补充材料中获取。该论文提交于 2026 年 10 月 1 日，编号为 arXiv:2610.01323，属于 cs.AI 分类，作者为 Fengpeng Li、Kemou Li、Qizhou Wang、Haiwei Wu、Jiantao Zhou 与 Di Wang。
为什么值得看
有效防御多轮对话诱导攻击且几乎不损模型能力，解决对齐模型核心痛点。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。