TailSteer 提出末段训练框架,抑制多轮图像编辑漂移
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载漂移从哪来
论文指出,单轮编辑表现强并不代表多轮交互可靠。多轮场景下,上一轮输出会被反复当作下一轮输入,那些原本微小的非预期改动会逐轮叠加,最终形成明显的视觉漂移。现有应对方式主要有两类:一是用多轮数据或跨轮 rollout 做训练,但这可能改动预训练阶段形成的先验;二是设计专门的推理期机制,而这类机制难以扩展到基座模型规模。TailSteer 的定位正是绕开这两条路径,在不重学已有能力的前提下提升长程编辑的稳定性。
只改轨迹尾部
方法遵循一个简单原则:让早期去噪动态尽量接近基座模型,把保持性校正集中放在轨迹尾部,因为细粒度偏差在这一段更容易被压制。这些校正并非来自人工标注,而是从编辑器自身的 on-policy 去噪 rollout 中学习,并以未改动的源内容作为保持参考,因此不需要整理好的真值编辑配对。作为最终阶段的训练框架,它作用于已经完成前期训练的模型,目标是在保留原有生成与编辑能力的同时补上多轮鲁棒性。
跨模型家族的结果
实验在 FLUX、SenseNova、Qwen 三个模型家族上展开。结果显示,经过 15 至 20 轮连续编辑后,TailSteer 大幅降低了累积漂移;同时在大量文本生图与单图编辑基准上,基座模型原本的表现基本得以保留。作者据此认为,长程编辑鲁棒性可以在基座模型上通过 TailSteer 这类末段训练获得,而不必让模型重新学习已经具备的能力。论文共 16 页、9 张图,并提供了项目页面。
为什么值得看
多轮编辑的漂移是实际使用中的痛点,该方法不改基座先验、不需配对数据,且已在多个模型家族验证。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
