MedPhysBench 基准发布:12 个模型在医学物理计算中得分 33.3…

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

MedPhysBench 是一个面向医学物理计算与错误检测的评测基准,覆盖放射治疗、诊断影像、核医学与辐射防护四类场景,题目由十个带随机种子的生成器产出,最高难度到 TG-51 校准工作表这类临床任务。参考答案由实现相关协议的代码给出,评分器负责单位换算并按容差区间判定。在 1200 道留出测试题上,12 个模型的得分区间为 33.3% 至 100.0%;成绩最好的四个模型共 9 道被判错,其中 5 道是模型自身出错,4 道是因为题目表述有误或留有歧义,而模型按 NCRP Report 151 作答。多数模型在三级临床任务上表现最差,Claude Sonnet 5.5 在 20 道等中心 MU 题中有 19 道漏掉了平方反比修正。错误检测方面,5 个模型对植入错误的检出率不低于 96.7%,误报率不超过 4%。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

十类算题生成器

MedPhysBench 面向医学物理中的计算与查错两类任务。它的题库由十个带随机种子的生成器产出,覆盖放射治疗、诊断影像、核医学与辐射防护四个方向,题目可以细到临床层面的 TG-51 校准工作表。参考答案并非人工填写,而是由实现相应规程的代码算出,评分环节先做单位换算,再按容差区间判定对错。同一组输入还会派生出查错题:受测模型看到的是同事的工作表,或者只看到同事给出的结果,其中一半正确,另一半被植入一处错误。这套设计把“自己算”和“审别人的算”拆成两条并行的评测线。

高分答案里的分歧

在留出的测试集上,计算题按两个模型一半的方式分配题目。参与评测的模型在计算项上的得分跨度很大,最低与最高之间差距明显。排在前列的几个模型被判错的答案被逐条复核,其中一部分确实源于模型自身的计算失误,另一部分则是因为题目本身对某些要点表述不清或留有空白,而模型采用了 NCRP Report 151 的口径。这一复核结果说明,评测分数不能直接等同于模型能力,题目文本的严谨程度同样会进入最终判定。整体来看,多数模型在难度最高的临床级任务上表现最弱,Claude Sonnet 5.5 在等中心 MU 计算题中有 19 道(共 20 道)漏掉了平方反比修正。

查错任务的两极表现

查错项的错误多为幅度较大的植入错误。有五个模型能识别出其中绝大部分,误报率控制在很低水平;另外七个模型中有四个在只拿到同事结果、看不到工作表过程时,误报明显上升。研究还做了一组针对性的小规模测试,专门考察漏掉平方反比修正这一情形,使用 20 个公开案例。表现最好的三个模型在每一份工作表中都发现了该问题;三个较弱模型则接受了 20 份植入错误工作表中的 16 至 18 份,其中一个在自己做计算时多数情况下是施加了该修正的。Claude Opus 5.5 接受了 20 份错误结果中的 6 份,尽管它自己的 20 次计算全部做了这项修正。

发布内容与已知问题

作者在跑完评测之后发现屏蔽类题目存在两处问题,并在报告中说明了这两处问题带来的影响。随论文一并公开的还有代码、逐题结果以及针对性测试的回复记录,便于外部复核每道题的判定依据与模型输出。对使用这类基准的读者而言,可复现的逐项结果意味着分数背后的具体错题可以被追溯,而不是只留下一个汇总数字;同时,题目自身被查出的瑕疵也提示,引用任何单项得分时都需要回到题目层面确认其成立条件。

为什么值得看

它把「算得对」和「查得出错」分开测,并给出模型漏掉平方反比修正等具体失败模式,对做医疗 AI 评测的人有直接参考价值。

Claude

信源1 家

  1. [1]arXiv cs.AI一手信源MedPhysBench: A Benchmark for Evaluating Language Models on Medical Physics Calculations and Error Detection

关键事实

  • MedPhysBench 含十个带随机种子的计算题生成器,覆盖放射治疗、诊断影像、核医学与辐射防护[1]

  • 留出测试集为 1200 道题,12 个模型得分区间 33.3% 至 100.0%[1]

  • 成绩最好的四个模型(99.3% 至 100.0%)共有 9 道题被判错,其中 5 道源于模型错误,4 道源于题目表述问题[1]

  • Claude Sonnet 5.5 在 20 道等中心 MU 题中有 19 道漏掉平方反比修正[1]

  • 5 个模型对植入错误的检出率不低于 96.7%,误报率不超过 4%;另有 4 个模型在只看结果时误报明显上升[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。