注册

无标签评分标准澄清提升LLM评审一致性但未拉近与人类评分

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一项预注册研究测试了无标签流程：将评分标准拆成子标准，按评审间分歧排序，由编辑模型只改写争议最大的条款，人类标签仅用于评估结果。在SummEval、HealthBench和USR Topical-Chat上，用来自三家提供商的五名评审组成评审团，共129770次评审请求。SummEval上评审间Krippendorff α比原标准提高0.069，比随机改写等量条款的对照高0.074；但与专家评分的一致性无可检测变化（Kendall τ差-0.007）。HealthBench和USR上评审间一致性与人类一致性均未达预注册效应标准。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

无标签改写流程

该研究提出一种不依赖人类标签的流程，用来把评审团内部的分歧转化为评分标准的修订。具体做法是先把每条评分标准拆解为若干子标准，再在开发集上按评审之间的分歧程度对这些子标准排序，最后让一个编辑模型只重写争议最大的那些条款。整个选择与编辑环节都不使用人类标签，人类标签只用于评估最终结果。研究还测试了一个额外阶段，试图把可由文本检查的子标准交给确定性检查器处理，但在本次评估中没有任何子标准被转移过去。

实验设置与预注册

研究在版本控制的协议中预先设定了四个假设，并评估了六种评分标准条件。评审团由来自三家提供商的五名评审组成，测试覆盖SummEval、HealthBench元评估和USR Topical-Chat三个数据集，合计129770次评审请求，不含重试。这种预注册与多数据集、多评审的设置，使结果更便于判断流程在不同场景下是否稳定。

一致性与人类对齐的分离

在SummEval上，该流程把评审间的Krippendorff α比原始标准提高了0.069，95%置信区间为0.046至0.092；相比把同样编辑施加到等量随机选取条款上的对照，提高0.074。但与专家评分的一致性没有可检测的变化，Kendall τ差为-0.007，95%置信区间从-0.037到0.021。在HealthBench和USR上，评审间一致性和人类一致性都未达到预注册的效应标准。预注册的二次比较显示，在三个数据集上，编辑争议条款后的人类一致性点估计都低于编辑对照条款，不过没有区间排除零。

结论与发布内容

结果表明，按分歧挑选条款确实能让评审彼此更一致，效果强于任意编辑条款；但在本研究的设定中，这种额外共识并没有让评审更接近人类标注者。作者计划发布代码、冻结的评分标准、条目标识符和评审分数，便于复现与进一步检验。

为什么值得看

揭示LLM评审团共识提升不等于与人类对齐，对依赖LLM评审的评测流程有直接警示。

数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Agreement Without Alignment: Label-Free Rubric Clarification Increases LLM-Judge Consensus but Not Agreement with Humans

关键事实

  • 研究在SummEval、HealthBench和USR Topical-Chat三个数据集上评估，共129770次评审请求，排除重试。[1]

  • 评审团由来自三家提供商的五名评审组成。[1]

  • SummEval上评审间Krippendorff α比原标准提高0.069（95% CI 0.046至0.092），比随机改写等量条款的对照高0.074。[1]

  • 与专家评分的一致性无可检测变化，Kendall τ差-0.007（95% CI -0.037至0.021）。[1]

  • 将可文本检查的子标准移至确定性检查器的额外阶段在评估中未转移任何条款。[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论