TextSeal2 发布：投机解码下保持无失真水印
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载要解决的问题
大模型水印的难点在于既要让检测器能识别生成文本，又不能改变模型原本的输出分布。TextSeal2 把矛头指向两个具体场景：一是投机解码，草稿被拒绝后由目标模型重新采样，替换掉的 token 容易丢掉水印信号；二是多密钥共存，前代 TextSeal 用抛硬币的方式把每个 token 路由到两个密钥之一来恢复 Gumbel-max 方案的多样性，但检测器不知道 token 用了哪个密钥，只能把两个密钥的分数平均，检测能力因此被削弱。TextSeal2 声称在保持多样性的同时不牺牲检测，也不引入可测量的推理延迟。
密钥合并与竞速校验
TextSeal2 的做法是把两个或更多密钥合并成一个虚拟密钥，再通过 AutoMark 的高斯 copula 把这个虚拟密钥与新鲜噪声耦合起来。按论文说法，任意数量的密钥都能这样合并，包括公开共享的密钥，且不会稀释检测效果，这解决了前代方案中检测器对多密钥取平均带来的损失。在投机解码路径上，TextSeal2 对带密钥的草稿额外运行一次指数竞速，这次竞速在草稿竞速的剩余部分上进行；借助指数分布的无记忆性，该竞速等价于块验证，因此最终输出严格服从目标模型的分布。
评测结果
论文在三个大语言模型上做了评测。在输出 token 多样性相同的条件下，以 10⁻³ 的假阳性率为标准，TextSeal2 对 100 token 回答的检出率比 TextSeal 高出 8 到 22 个百分点；与 textGrain 相比表现相当，但不需要对 logits 做后处理优化。在投机解码场景下、接受率相同的前提下，它对 200 token 回答的检出率分别比 TextSeal 和 textGrain 高 18 和 22 个百分点。这些数字说明增益在长回答与加速解码叠加时更明显，也点明了该方案主要面向需要在不改变输出分布的前提下追踪模型生成内容的部署方。
为什么值得看
水印能否在投机解码加速下存活，直接决定它能否用于真实推理部署；该工作给出了不损多样性、不加延迟的解法与量化提升。
信源1 家
关键事实
TextSeal2 在投机解码下保持水印：替换被拒草稿的 token 仍用同一密钥带水印，接受率不变[1]
方法将两个及以上密钥合并为单一虚拟密钥，经 AutoMark 高斯 copula 与新鲜噪声耦合，公开共享密钥合并不稀释检测[1]
在三个大语言模型上，同等输出多样性下，100 token 回答检出率比 TextSeal 高 8 至 22 个百分点，假阳性率 10⁻³[1]
投机解码下，200 token 回答检出率分别比 TextSeal 和 textGrain 高 18 和 22 个百分点，接受率相同[1]
方案不增加可测量的推理延迟，且与 textGrain 效果相当但无需 post-logits 优化[1]
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。