研究:GPT-4o 审稿评分可预测论文发表,但仅限正确性判断

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇提交至 arXiv 的论文让 GPT-4o 评审 2024 年 AFA 与 NBER 金融会议论文,并与随后两年内是否发表于三大金融期刊对照。模型评分高出一个标准差的论文,发表概率高出 44%,且已排除作者声誉因素;作者称模型训练数据早于 2024 年会议季,不存在前瞻偏差。信息主要来自模型对正确性与表述的评判,对原创性与重要性的评判不具预测力,强调重要性的审稿指南也无帮助。这一正确性与贡献度的分野在会计论文及更新的 GPT-5 上同样成立。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

模型审稿的实验设计

这项研究把审稿人工作拆开来看,追问大语言模型究竟能承担其中哪一部分。研究者选取 GPT-4o 作为审稿模型,其训练数据截止时间早于 2024 年的会议季,因此它并未见过随后发生的事情。被审的对象是 2024 年 AFA 与 NBER 金融会议上的报告论文,模型对这些论文给出评分,研究再把评分与这些论文此后两年内能否进入前三本金融期刊进行对照。作者同时说明,模型并未回忆起这些论文的最终去向,因此结果不是由前瞻性偏差造成的。这一设计的关键在于时间上的隔离:模型的训练截止在前,论文的发表结果在后,两者之间形成一段可以观察的窗口。

评分与发表之间的关联

在剔除作者声誉的影响之后,模型评分高出一个标准差的论文,进入前三本金融期刊的可能性明显更高。研究进一步定位了这种关联来自哪里:模型对论文正确性与表述的判断携带了有效信息,而对原创性与重要性的判断则没有带来任何增量,即便给审稿指南强调重要性也无济于事。也就是说,模型能够分辨一项研究做得对不对,却分辨不出它是否重要。这一结论在会计学论文上同样成立,在更新的 GPT-5 模型上也同样成立,说明正确性与贡献之间的这种分工并非某一代模型或某一学科的偶然现象。

适用范围与使用边界

研究给出的分工建议是:技术性的核查可以交给模型,而对贡献的判断仍应留在人手中。这一划分直接对应到金融与会计期刊当前的分歧——审稿人越来越多地借助大语言模型,但各刊对是否允许使用尚未形成一致意见。该研究并不回答期刊应当如何规定,它回答的是模型在审稿流程中实际能做到什么。对读者而言,这意味着把模型用于检查推导、数据与表述是可行的,而把录用与否的决定权交给模型则缺乏依据,因为模型在判断研究价值这一环节上并未表现出可用的能力。

为什么值得看

给出 LLM 审稿能力边界的量化证据:能查对错,不能判价值,直接影响期刊是否放行 AI 审稿。

GPT论文

信源1 家

  1. [1]arXiv cs.AI一手信源How Well Do LLMs Perform in Peer Review? Evidence from Finance and Accounting

关键事实

  • 研究用 GPT-4o 评审 2024 年 AFA 和 NBER 金融会议论文,并与之后两年内发表于三大金融期刊的结果对照[1]

  • 模型评分高出一个标准差的论文,发表概率高出 44%,且已剔除作者声誉影响[1]

  • 预测力来自模型对正确性和表述的判断,对原创性与重要性的判断没有预测力[1]

  • 强调重要性的审稿指南未能提升模型表现[1]

  • 正确性与贡献度的分野在会计论文和 GPT-5 上同样存在[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。