Anthropic发布Claude Fable 5.1版本

工具AI 评分 75/100Simon Willison
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

Claude Fable 5.1在科学研究中表现突出,Terminal-Bench-Science 0.1基准测试得分为52.6%,较前代版本提升显著。该模型提供五种推理级别,针对不同任务表现各异。在生成骑自行车鹈鹕SVG图像测试中,低、中级别推理似乎被跳过,高级别则进行了少量推理。新版本定价保持不变,处理时间在23-30秒之间。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

鹈鹕提示词下的分级表现

作者用同一个提示词让模型生成骑自行车的鹈鹕 SVG,并在五个推理档位上分别运行,这五个档位依次为 low、medium、high、xhigh、max,且没有完全关闭推理的选项。在 low 档下,输出 token 数为 1998,耗时 23.8 秒,花费 10.017 美分;在 medium 档下,输出 token 数为 1977,比 low 档少 21 个,耗时 23 秒,花费 9.912 美分。这两档的推理记录里都没有出现摘要化的推理内容,作者据此判断,模型在这个提示词上似乎跳过了推理环节。到 high 档时,耗时 29.6 秒,输出 token 数为 2612,花费 13.087 美分,此时才出现一段简短的推理摘要,内容大致是规划天空与地面的背景、带辐条的双轮与车架座垫车把,以及长颈橙喙的白身鹈鹕如何安放在车上。作者认为,这一档的产出与 low、medium 两档相比差别并不明显。需要说明的是,Claude 的输出 token 计数包含推理 token,因此上述数字同时反映了推理与成品的开销。

基准分数的前后对照

Anthropic 在发布说明中把 Fable 5.1 定位为在编程、知识型工作以及长时间运行的问题求解任务上树立了新标准,并且用相当篇幅谈科学研究场景。支撑这一说法的是 Terminal-Bench-Science 0.1 这一新基准,该基准于 8 月 27 日首次公布。Fable 5.1 在该基准上取得 52.6% 的分数,而同一系列上一版 Fable 5 为 24.7%,Opus 5 为 29.0%,GPT-5.6 Sol 为 22.4%。作者指出,其他基准上的提升幅度相对有限,没有一个像科学这一项那样突出。也就是说,对外可引用的对比主要集中在这一项新基准上,其余维度的变化属于小幅改进。

鹈鹕基准的用法变化

作者在 7 月曾写过自己对鹈鹕基准的信心在下降,原因是它与模型在其他任务上的表现之间的关联,已不如 2025 年时那么强。他如今从这个测试中得到的有价值信息,主要来自同一模型家族内部的横向比较,尤其是同一提示词在不同推理强度下的差异。这次 Fable 5.1 的五个档位正好提供了这样的观察窗口。为了让推理过程被完整记录,作者还修复了 llm-anthropic 中一个导致推理轨迹记录不正确的问题,然后才运行这些提示词,并把每个档位的完整推理记录一并公开。对读者而言,这意味着单看一张鹈鹕图已不足以判断模型强弱,更有参考价值的是同一提示词下不同档位的耗时、token 与费用变化,以及推理内容是否真的出现。

适用范围与已知限制

从这次测试可以看到两点限制。其一,推理档位并不必然带来推理行为:在 low 与 medium 上,模型对该提示词没有输出任何推理摘要,token 消耗甚至出现反向的细微差别,medium 比 low 少 21 个输出 token。其二,档位提升带来的成品差异可能很小,high 档虽然出现了规划性描述,但作者判断其画面与更低档位相比没有实质变化。因此,这套档位设置更适合用来观察模型在特定提示词上是否愿意展开推理,以及为此付出的时间与费用,而不宜直接当作质量阶梯来理解。作者也说明,他关注的正是同家族、同提示词、不同推理强度之间的对照,这类对照能揭示的细节比跨模型排名更多。

为什么值得看

新版本在科学任务上有显著提升,推理级别设置变化值得关注。

AnthropicClaude定价基准测试

信源1 家

  1. [1]Simon WillisonClaude Fable 5.1 made me a really nice animated pelican

关键事实

  • Fable 5.1在Terminal-Bench-Science 0.1基准测试中得分为52.6%,远高于前代版本[1]

  • 模型提供五种推理级别:低、中、高、xhigh和max,无法完全关闭推理[1]

  • 在生成骑自行车鹈鹕SVG图像测试中,低、中级别推理似乎被跳过[1]

  • 高级别推理处理时间为29.6秒,成本为13.087美分[1]

相关 · 工具

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。