DA-CoT：用注意力熵判断是否触发思维链，免训练提升推理分割
论文AI 评分 68/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
研究指出，多模态大模型在推理分割任务中无条件使用思维链会引发「过度思考」，导致查询意图与视觉定位错位。作者提出免训练的 Difficulty-Aware Chain-of-Thought（DA-CoT），以模型注意力图熵值作为任务难度信号：熵低表示定位自信，熵高表示不确定、更适合启用思维链，据此选择性触发。另引入双向重思机制，在初次输出失败时自动翻转推理决策，兼顾过度思考与思考不足。该方法在推理分割基准上取得最优结果，同时提升推理效率，已被 WACV 2027 接收。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载过度思考的问题
论文针对的是多模态大模型在推理分割这类视觉语言任务中的思维链使用方式。作者的分析显示，思维链并非总是有益：不加区分地对每个输入都启用思维链，会引入多余的推理步骤，作者把这种现象命名为过度思考。在推理分割场景下，过度思考的具体后果是查询意图与视觉定位之间出现错位，也就是模型想得越多、框得越偏。这一观察构成了整篇工作的出发点：问题不在于思维链本身，而在于是否该对当前输入使用它。
用注意力熵做难度信号
DA-CoT 的核心是找到一个能免训练获取的难度指标。作者发现模型注意力图的熵值可以稳定反映任务难度：熵值低时，注意力集中，说明模型对目标位置有把握，定位较为自信；熵值高时，注意力分散，说明模型不确定，此时引入思维链更可能带来收益。框架据此在推理前先读取这一熵信号，再决定是否施加思维链提示，整个过程不涉及参数更新，属于即插即用的推理期策略。
双向重思与实验结果
仅有一次性判断仍可能出错，因此作者补充了双向重思机制：当初始输出被判为失败时，模型会自动翻转此前的推理决策，即原本没走思维链的补上思维链，原本走了的则退回直接输出，从而同时覆盖过度思考与思考不足两类失误。论文报告该方法在推理分割基准上达到当前最优水平，并且推理效率有明显改善，说明按需触发思维链在精度与开销上可以同时获益。该工作已被 WACV 2027 接收。
为什么值得看
给出一种不训练、不改模型即可按难度开关思维链的做法，对多模态推理的算力与准确率权衡有直接参考价值。
大模型多模态论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。