研究发现激活引导在潜在推理中失效并揭示潜在至语言过渡间隙
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载连续思维中的干预为何变弱
这项研究关注的是激活引导在潜空间推理中的表现。激活引导此前多用于显式思维链推理阶段，用来左右语言模型的生成走向，作者尝试把同样的手段搬到连续思维上。实验发现，当隐藏表示被移动的幅度与显式思维链情形大致相当时，连续思维上的引导对后续语言生成的作用明显更弱。这一对比构成了整篇工作的出发点：干预在潜空间中确实发生了，却没有在语言输出端得到同等程度的体现。
任务信息仍可被识别
作者先确认了一件事：连续思维里依然保留着可辨识的任务信息。也就是说，潜空间并非一片无法解读的混沌，任务相关的信号仍然存在，只是引导效果没有随之传递出去。基于这一点，作者提出一个解释性假设，称为潜空间到语言的过渡缺口，指的是在潜空间内施加的干预，无法顺利跨越到语言生成环节。这个假设把问题定位在两种表示形态的衔接处，而不是潜空间本身缺乏信息。
边界处的分布突变
为支撑上述假设，作者给出两项进一步的结果。其一，输出分布在过渡边界处出现突然变化，说明潜空间与语言生成之间并非平滑衔接，而是在某个位置发生了形态切换。其二，任务相关方向在潜空间思维链中的双向控制能力，比在显式思维链中弱得多，即便同一方向在两种情形下都被识别为与任务相关。这两项结果从分布变化和控制强度两个角度，指向同一个衔接环节。
过渡接口成为评估目标
作者由此把过渡接口视为评估与设计后续潜空间引导方法的核心对象。对关注这类技术的人来说，这意味着把显式思维链上验证有效的引导手段直接迁移到连续思维，未必能得到预期效果；衡量一种潜空间引导方法是否可用，需要看干预能否穿过这道接口抵达语言输出。研究同时提示，连续思维中的任务信息可辨识，问题更多出在传递环节而非信息缺失，后续方法的改进方向也应落在这一衔接处。
为什么值得看
揭示潜在推理引导失效机制，为改进隐空间思维链控制技术指明过渡界面这一关键突破口。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。