研究对比JEV与Qwen在临床试验筛选中的表现
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载对比设置与数据来源
研究关注临床试验预筛中的一个具体难点:病历里既可能确实不满足条件,也可能只是证据不足,两者需要区分。作者选取患者记录、条件问题与预设答案选项,在 2048 个患者-条件对上做回顾性比较。数据来自 TrialGPT 以及由 MIMIC-III、MIMIC-IV 衍生的问答数据集,全部评估在零数据留存(ZDR)策略下完成,以控制临床数据隐私风险。对照的一方是 JEV,一个非生成式决策模型,直接返回各选项的原生概率;另一方是受 schema 约束的 Qwen Flash。两种模型都支持逐条评估条件,也支持在同一患者上下文下批量评估,最终以参考标签计算指标。
分数差异与召回来源
批量模式下,两者在 TrialGPT 上的 macro-F1 为 0.652 对 0.660,在 MIMIC-IV 上为 0.807 对 0.814,差距很小。差异出现在 MIMIC-III:JEV 为 0.768,Qwen 为 0.534,差值 +0.234,95% 置信区间 0.187–0.281。作者指出这一优势主要来自对标注为「信息不足」条件的召回,JEV 为 56.3%,Qwen 为 9.9%。换言之,在证据不完整时,JEV 更倾向于把这类条件识别出来,而不是直接判为不满足,这正是预筛环节需要的行为。
延迟、成本与使用边界
效率方面,JEV 在三个数据集上的观测中位任务延迟为 1.18–1.40 秒,Qwen 为 2.80–8.90 秒;单条件估算成本 JEV 低 53%–74%。作者据此把 JEV 定位为初筛环节的组件:输出条件级判断,并标记可能存在的信息缺口供人工复核。论文同时说明,JEV 在解读临床证据时仍会出现错误,其输出在影响入组决定之前必须对照患者记录核验,不能直接作为资格判定依据。
为什么值得看
用具体数据说明非生成式模型在临床筛选中的召回、延迟与成本取舍,对做医疗 AI 落地的人有参考价值。
信源1 家
关键事实
比较在 2048 个患者-条件对上完成,数据来自 TrialGPT 及 MIMIC-III、MIMIC-IV 衍生问答集[1]
批量模式下 JEV 与 Qwen 在 TrialGPT 的 macro-F1 为 0.652 对 0.660,在 MIMIC-IV 为 0.807 对 0.814[1]
MIMIC-III 上 JEV 为 0.768,Qwen 为 0.534,差距主要来自「信息不足」条件的召回(56.3% 对 9.9%)[1]
JEV 中位任务延迟 1.18–1.40 秒,Qwen 为 2.80–8.90 秒,单条件估算成本低 53%–74%[1]
评估在零数据留存(ZDR)策略下进行,作者建议将 JEV 输出对照病历核验后再用于入组判断[1]
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
