RefCraft 基准发布:300 个网页开发任务考验智能体读图能力

论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究团队提出 RefCraft 基准,用于评测智能体把视觉参考融入生成过程的能力,场景选在网页开发。该基准包含 300 个多模态网页开发任务,每个任务由自然语言指令与 1 至 5 张参考网页截图组成;智能体需要自行判断并选用这些参考,完成渲染、视觉检查与迭代修改。评测采用可独立核验的关键点,并结合程序化判分与 VLM 判分。在九个前沿(多模态)大模型上,最强系统总分仅 52.12(满分 100),说明按视觉参考进行智能体生成仍是明显难点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

基准要测什么

论文关注的是智能体在真实生产力任务中的一项能力:把视觉参考纳入生成过程。作者选择网页开发作为检验场景,理由是这一场景既贴近实际,又便于评测。作者指出,现有基准大多偏理想化,通常只要求复现视觉目标,或仅凭文本指令生成页面,而忽略了更常见的工作流——开发者手里已有若干参考网页,需要据此做出新页面。RefCraft 正是为填补这一空白而设计。

任务构成与评测方式

RefCraft 由 300 个贴近真实的多模态网页开发任务组成,每个任务把自然语言指令与 1 至 5 张参考网页截图放在一起。智能体不能照搬全部参考,而要自行判断哪些部分该用、哪些不该用,然后完成渲染、对输出做视觉检查,并反复修改。由于产物是开放式页面,评测采用可独立核验的关键点,同时引入程序化判分与 VLM 判分两种互补方式,以减少单一判分口径带来的偏差。

九模型实测结果

作者在九个前沿(多模态)大模型上运行了该基准,表现最好的系统总分也只有 52.12(满分 100)。这一结果说明,在贴近实际的网页开发环境中,按视觉参考进行智能体生成对当前模型仍是相当大的挑战。论文同时给出项目页面链接,并标注了 cs.CL、cs.AI、cs.CV 三个学科分类,提交时间为 2026 年 10 月 19 日。

为什么值得看

网页开发是可直接检验的场景,52.12 分显示当前模型在「照着参考图做页面」上仍有明显缺口,可作为选型与后续改进的基线。

大模型多模态智能体

信源1 家

  1. [1]arXiv cs.AI一手信源RefCraft: Benchmarking Visual-Reference-Conditioned Agentic Generation through Web Development

关键事实

  • RefCraft 包含 300 个贴近真实的多模态网页开发任务[1]

  • 每个任务由自然语言指令与 1 至 5 张参考网页截图组合而成[1]

  • 智能体需选择性解读参考,并完成渲染、视觉检查与迭代修改[1]

  • 评测使用可独立核验的关键点,以及程序化判分与 VLM 判分[1]

  • 在九个前沿(多模态)大模型中最强系统总分仅 52.12(满分 100)[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。