研究对比JEV与Qwen在临床试验筛选中的表现

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文在 2048 个患者-条件对上比较了非生成式决策模型 JEV 与受 schema 约束的 Qwen Flash,数据来自 TrialGPT 及 MIMIC-III、MIMIC-IV 衍生问答集,全程遵循零数据留存(ZDR)要求。批量模式下两者在 TrialGPT(0.652 对 0.660)和 MIMIC-IV(0.807 对 0.814)的 macro-F1 接近;JEV 在 MIMIC-III 上明显领先(0.768 对 0.534),主要来自对「信息不足」类条件的召回差异(56.3% 对 9.9%)。JEV 的中位任务延迟为 1.18–1.40 秒,低于 Qwen 的 2.80–8.90 秒,单条件估算成本低 53%–74%。作者将 JEV 定位为初筛组件,并提示其临床证据解读错误需对照病历核验。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

对比设置与数据来源

研究关注临床试验预筛中的一个具体难点:病历里既可能确实不满足条件,也可能只是证据不足,两者需要区分。作者选取患者记录、条件问题与预设答案选项,在 2048 个患者-条件对上做回顾性比较。数据来自 TrialGPT 以及由 MIMIC-III、MIMIC-IV 衍生的问答数据集,全部评估在零数据留存(ZDR)策略下完成,以控制临床数据隐私风险。对照的一方是 JEV,一个非生成式决策模型,直接返回各选项的原生概率;另一方是受 schema 约束的 Qwen Flash。两种模型都支持逐条评估条件,也支持在同一患者上下文下批量评估,最终以参考标签计算指标。

分数差异与召回来源

批量模式下,两者在 TrialGPT 上的 macro-F1 为 0.652 对 0.660,在 MIMIC-IV 上为 0.807 对 0.814,差距很小。差异出现在 MIMIC-III:JEV 为 0.768,Qwen 为 0.534,差值 +0.234,95% 置信区间 0.187–0.281。作者指出这一优势主要来自对标注为「信息不足」条件的召回,JEV 为 56.3%,Qwen 为 9.9%。换言之,在证据不完整时,JEV 更倾向于把这类条件识别出来,而不是直接判为不满足,这正是预筛环节需要的行为。

延迟、成本与使用边界

效率方面,JEV 在三个数据集上的观测中位任务延迟为 1.18–1.40 秒,Qwen 为 2.80–8.90 秒;单条件估算成本 JEV 低 53%–74%。作者据此把 JEV 定位为初筛环节的组件:输出条件级判断,并标记可能存在的信息缺口供人工复核。论文同时说明,JEV 在解读临床证据时仍会出现错误,其输出在影响入组决定之前必须对照患者记录核验,不能直接作为资格判定依据。

为什么值得看

用具体数据说明非生成式模型在临床筛选中的召回、延迟与成本取舍,对做医疗 AI 落地的人有参考价值。

GPTQwen论文

信源1 家

  1. [1]arXiv cs.AI一手信源Can JEV Support Clinical Trial Criteria Assessment?

关键事实

  • 比较在 2048 个患者-条件对上完成,数据来自 TrialGPT 及 MIMIC-III、MIMIC-IV 衍生问答集[1]

  • 批量模式下 JEV 与 Qwen 在 TrialGPT 的 macro-F1 为 0.652 对 0.660,在 MIMIC-IV 为 0.807 对 0.814[1]

  • MIMIC-III 上 JEV 为 0.768,Qwen 为 0.534,差距主要来自「信息不足」条件的召回(56.3% 对 9.9%)[1]

  • JEV 中位任务延迟 1.18–1.40 秒,Qwen 为 2.80–8.90 秒,单条件估算成本低 53%–74%[1]

  • 评估在零数据留存(ZDR)策略下进行,作者建议将 JEV 输出对照病历核验后再用于入组判断[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。