GUIDER:用潜决策流奖励提升临床指南推理

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 GUIDER 方法,把临床指南中的条件决策流当作过程监督信号,同时训练一个决策流控制器和一个推理策略。控制器从指南监督中学习生成合理的决策流,策略为每个病例生成决策流与最终答案。过程奖励在控制器生成的多个流上计算,以覆盖同一决策对应多条有效路径的情况;该奖励再以答案正确性为门控,处理路径与答案不一致的问题。在 MedGUIDE 上,Qwen3-14B 骨干取得 82.5 加权准确率和 73.5 指南依从度,分别高出最强临床强化学习基线 3.3 和 3.1 个点;在 AMEGA-LLM、RealMedQA、CancerGUIDE 三个域外基准上,Qwen3-14B 与 Gemma4-12B 两种骨干均优于 CRPO、MRPO 和 FaithMed。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

指南为何能当监督信号

临床实践指南把循证建议写成条件式决策流,因此天然可以作为训练推理模型的过程监督来源。但作者指出两个让这种监督难以直接使用的性质:一是与指南一致的决策流本身并不决定某个患者病例的正确答案,作者称之为路径—答案鸿沟;二是同一个临床决策可以由多条有效决策流支撑,作者称之为路径多解。现有做法各自只覆盖了问题的一部分:答案奖励只监督最终决策,对照参考流计算的过程奖励每个病例只监督一条有效流,而在标注流上做监督微调虽能教出符合指南的推理,却把模型限制在每病例单条轨迹上,还可能拉低答案准确率。

控制器与策略的联合训练

GUIDER 的做法是同时优化两个部件。决策流控制器从指南衍生的监督中学习生成看似合理的决策流;推理策略则为每个患者病例生成一条决策流以及最终答案。关键在于过程奖励的计算方式:奖励不是对照单条参考流,而是在控制器生成的若干条流上对策略计算,从而把路径多解纳入考量;同时这道奖励以答案是否正确作为门控,用来处理路径与答案之间的鸿沟。由于两者联合训练,过程监督会随策略一起演化,而不是固定在一份静态标注上。

基准上的具体结果

在 MedGUIDE 上,以 Qwen3-14B 为骨干的 GUIDER 取得 82.5 的加权准确率与 73.5 的指南依从度,两项分别比最强的临床强化学习基线高 3.3 和 3.1 个点。作者还在域外基准 AMEGA-LLM、RealMedQA 和 CancerGUIDE 上做了验证,使用 Qwen3-14B 与 Gemma4-12B 两种骨干时,GUIDER 相对 CRPO、MRPO 与 FaithMed 均有提升,说明该方法并非只在单一数据集上有效。

为什么值得看

把指南决策流变成可训练的过程奖励,并给出路径多解与答案不一致的解法,对做医疗推理与过程监督的团队有直接参考价值。

Qwen强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源Latent Decision Flow Rewards for Clinical Guideline Reasoning

关键事实

  • 论文提出 GUIDER,联合优化决策流控制器与推理策略[1]

  • 过程奖励在控制器生成的多个决策流上计算,并以答案正确性为门控[1]

  • MedGUIDE 上 Qwen3-14B 取得 82.5 加权准确率与 73.5 指南依从度,分别高出最强临床强化学习基线 3.3 和 3.1 个点[1]

  • 在 AMEGA-LLM、RealMedQA、CancerGUIDE 上,Qwen3-14B 与 Gemma4-12B 骨干均优于 CRPO、MRPO、FaithMed[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。