MedPhysBench 基准发布:12 个模型在医学物理计算中得分 33.3…
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载十类算题生成器
MedPhysBench 面向医学物理中的计算与查错两类任务。它的题库由十个带随机种子的生成器产出,覆盖放射治疗、诊断影像、核医学与辐射防护四个方向,题目可以细到临床层面的 TG-51 校准工作表。参考答案并非人工填写,而是由实现相应规程的代码算出,评分环节先做单位换算,再按容差区间判定对错。同一组输入还会派生出查错题:受测模型看到的是同事的工作表,或者只看到同事给出的结果,其中一半正确,另一半被植入一处错误。这套设计把“自己算”和“审别人的算”拆成两条并行的评测线。
高分答案里的分歧
在留出的测试集上,计算题按两个模型一半的方式分配题目。参与评测的模型在计算项上的得分跨度很大,最低与最高之间差距明显。排在前列的几个模型被判错的答案被逐条复核,其中一部分确实源于模型自身的计算失误,另一部分则是因为题目本身对某些要点表述不清或留有空白,而模型采用了 NCRP Report 151 的口径。这一复核结果说明,评测分数不能直接等同于模型能力,题目文本的严谨程度同样会进入最终判定。整体来看,多数模型在难度最高的临床级任务上表现最弱,Claude Sonnet 5.5 在等中心 MU 计算题中有 19 道(共 20 道)漏掉了平方反比修正。
查错任务的两极表现
查错项的错误多为幅度较大的植入错误。有五个模型能识别出其中绝大部分,误报率控制在很低水平;另外七个模型中有四个在只拿到同事结果、看不到工作表过程时,误报明显上升。研究还做了一组针对性的小规模测试,专门考察漏掉平方反比修正这一情形,使用 20 个公开案例。表现最好的三个模型在每一份工作表中都发现了该问题;三个较弱模型则接受了 20 份植入错误工作表中的 16 至 18 份,其中一个在自己做计算时多数情况下是施加了该修正的。Claude Opus 5.5 接受了 20 份错误结果中的 6 份,尽管它自己的 20 次计算全部做了这项修正。
发布内容与已知问题
作者在跑完评测之后发现屏蔽类题目存在两处问题,并在报告中说明了这两处问题带来的影响。随论文一并公开的还有代码、逐题结果以及针对性测试的回复记录,便于外部复核每道题的判定依据与模型输出。对使用这类基准的读者而言,可复现的逐项结果意味着分数背后的具体错题可以被追溯,而不是只留下一个汇总数字;同时,题目自身被查出的瑕疵也提示,引用任何单项得分时都需要回到题目层面确认其成立条件。
为什么值得看
它把「算得对」和「查得出错」分开测,并给出模型漏掉平方反比修正等具体失败模式,对做医疗 AI 评测的人有直接参考价值。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
