研究揭示黑盒LLM观察者在共享端点上可靠性失败
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载黑盒评测的可靠性危机
语言模型裁判目前被广泛应用于筛选训练数据、评估生成质量以及驱动排行榜排名。这种应用建立在一个鲜少被明示的假设之上：即向同一模型名称发送相同的请求，在次日应获得一致的响应。为了验证这一假设的有效性，研究团队进行了两项预注册审计活动，所有阈值均在事前固定。然而，审计结果令人担忧，两项活动均未能通过仪器验证阶段。在总计52,988次审计请求尝试中，同一窗口内的重复排名一致性仅为0.400，远低于预设的0.90标准；而在次日进行的字节级完全重放测试中，一致性为0.78，同样未达到0.99的严格要求。尽管执行记录显示系统处于满负荷运行状态，但测量结果依然显示出极大的不稳定性。
测量偏差与噪声机制
深入分析发现，导致上述差距的机制主要有三个方面。首先是标签到含义的映射机制，这种映射对读数产生的偏差强度与信号本身相当，严重干扰了测量结果。其次是候选对象之间的差距极小，甚至比仪器自身的噪声底限还要低七个数量级，使得仪器难以准确区分。第三种机制更为棘手，即字节级完全相同的输入竟然返回了不同的排名，这种噪声在精确排列读数中被进一步放大。研究团队尝试了通过替换指标或调整采样方法来修复问题，但在测试网格中均未奏效。这表明，在当前的共享服务基础设施上，模型名称并不能代表一个冻结的测量仪器，任何基于此的评估都面临巨大的不确定性。
环境因素与改进方案
针对这一问题，研究团队进行了预注册的后续实验以界定问题的范围。结果显示，单纯等待并不能改善情况，在采样的五天里，一致性数据在0.805与0.800之间波动，没有显著提升。更换服务提供商也无济于事，四家提供商的中位数一致性在0.74至0.88之间徘徊，且这种差异无法通过它们公开的元数据字段进行预测。尝试在批次不变内核上自托管模型，仅在服务器负载较低时有所帮助。此外，在具有已知差距的构造错误测试中，读数的分离度追踪的是错误类型而非错误大小。基于这些证据，研究团队总结出了一个三层快照身份阶梯、八条设计规则以及一份报告清单。
对评估体系的启示
这项研究揭示了当前依赖共享端点进行外部行为测量的局限性。研究指出，如果进行一项仅占本研究调用量约2%的试点测试，原本就能提前暴露那些无法通过的门槛。这意味着，在进行任何预注册评估之前，必须先对测量仪器本身进行校准，而不能盲目信任模型名称所代表的稳定性。对于行业而言，这意味着在设定数据筛选标准或排行榜门槛时，必须考虑到测量工具的不稳定性。所有涉及外部测量行为的结果，都应当被视为在共享服务基础设施上的特定表现，而非模型固有的、不变的属性。
为什么值得看
对AI评估和基准测试的可靠性提出质疑，影响模型选择和比较决策
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。