TailSteer 提出末段训练框架,抑制多轮图像编辑漂移

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 TailSteer,一种只在训练末段施加校正的框架,用于缓解多轮图像编辑中的累积漂移。其思路是让早期去噪动态贴近基座模型,把保持性校正集中在轨迹尾部,以压制细微偏差;校正从编辑器自身的 on-policy 去噪 rollout 中学习,以未改动的源内容作为保持参考,无需人工整理的编辑配对真值。在 FLUX、SenseNova、Qwen 系列上的实验显示,15 至 20 轮编辑后累积漂移明显下降,同时文本生图与单图编辑基准上的基座性能基本保留。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

漂移从哪来

论文指出,单轮编辑表现强并不代表多轮交互可靠。多轮场景下,上一轮输出会被反复当作下一轮输入,那些原本微小的非预期改动会逐轮叠加,最终形成明显的视觉漂移。现有应对方式主要有两类:一是用多轮数据或跨轮 rollout 做训练,但这可能改动预训练阶段形成的先验;二是设计专门的推理期机制,而这类机制难以扩展到基座模型规模。TailSteer 的定位正是绕开这两条路径,在不重学已有能力的前提下提升长程编辑的稳定性。

只改轨迹尾部

方法遵循一个简单原则:让早期去噪动态尽量接近基座模型,把保持性校正集中放在轨迹尾部,因为细粒度偏差在这一段更容易被压制。这些校正并非来自人工标注,而是从编辑器自身的 on-policy 去噪 rollout 中学习,并以未改动的源内容作为保持参考,因此不需要整理好的真值编辑配对。作为最终阶段的训练框架,它作用于已经完成前期训练的模型,目标是在保留原有生成与编辑能力的同时补上多轮鲁棒性。

跨模型家族的结果

实验在 FLUX、SenseNova、Qwen 三个模型家族上展开。结果显示,经过 15 至 20 轮连续编辑后,TailSteer 大幅降低了累积漂移;同时在大量文本生图与单图编辑基准上,基座模型原本的表现基本得以保留。作者据此认为,长程编辑鲁棒性可以在基座模型上通过 TailSteer 这类末段训练获得,而不必让模型重新学习已经具备的能力。论文共 16 页、9 张图,并提供了项目页面。

为什么值得看

多轮编辑的漂移是实际使用中的痛点,该方法不改基座先验、不需配对数据,且已在多个模型家族验证。

Qwen论文

信源1 家

  1. [1]arXiv cs.AI一手信源TailSteer: Trajectory-Tail Steering for Drift-Resistant Multi-turn Image Editing

关键事实

  • TailSteer 是最终阶段训练框架,目标是提升多轮鲁棒性并保留早期训练获得的生成与编辑能力[1]

  • 校正从编辑器自身的 on-policy 去噪 rollout 中学习,以未改动的源内容作为保持参考,不需要整理好的真值编辑配对[1]

  • 实验覆盖 FLUX、SenseNova、Qwen 系列,在 15 至 20 轮编辑中显著降低累积漂移[1]

  • 在文本生图与单图编辑基准上,基座模型性能基本得到保留[1]

  • 论文共 16 页、9 张图,提交于 2026 年 11 月 4 日,编号 arXiv:2611.06741[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。