AesCode 用解耦跨模态奖励提升代码生成视觉质量

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿于 arXiv 的论文提出 AesCode,把幻灯片、海报、仪表盘这类视觉产物生成为代码。做法是把目标表示为描述整块画布的设计图,并从中导出两类互补奖励:可解析属性由确定性验证器打分,不可解析属性由 VLM 评委依据与图元素绑定的 Visual Graph Rubric 评估,再通过带逐通道归一化的强化学习优化。论文同时构建了分别衡量可验证正确性与视觉质量的基准。与同规模 Qwen3-VL 基线在相同参考图下相比,AesCode-8B 和 AesCode-32B 的视觉质量分别提升 31.1 和 22.4 个百分点,达到与 GPT-5.5、Claude Opus 4.8 等闭源前沿模型相当的水平。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

代码生成审美的难点

论文关注的是把幻灯片、海报、仪表盘这类信息密集的视觉产物生成为代码。这样做的吸引力在于输出是结构化的、可编辑的、可验证的。但代码模型看不到自己选择的布局与颜色在画布上如何组合,空间规划与审美质量因此受限。图像生成器擅长视觉设计,却可能把要求的内容画错,所以它们的输出不能直接当作可靠复现目标。AesCode 的思路是让代码生成以内容提示为依据,同时把同一提示生成的图像当作审美引导,从而兼顾内容正确与视觉表现。

设计图与两类奖励

AesCode 把目标表示成一张设计图,用来描述整块画布,并让每个属性都可归因。从这张图出发,论文导出互补的跨模态奖励:一部分属性可以从代码和渲染结果中解析出来,由确定性验证器打分;另一部分无法解析,交给 VLM 评委,依据与图元素和关系绑定的样本专属 Visual Graph Rubric 来评估。这些解耦后的奖励通过强化学习优化,并采用逐通道归一化,目标是同时改善空间规划、审美质量和可验证的正确性。

评测方式与结果

为评估这一设定,论文构建了一个基准,把可验证正确性与视觉质量分开打分,其中视觉分数与人类判断高度一致。论文发现,参考图像能显著提升现有模型生成代码的视觉质量;消融实验显示,AesCode 既把参考图当作模型输入,也把它当作视觉奖励的来源,两方面都带来收益。在与同规模 Qwen3-VL 基线使用相同参考图的对比中,AesCode-8B 和 AesCode-32B 的视觉质量分别提升 31.1 和 22.4 个百分点,得分与 GPT-5.5、Claude Opus 4.8 等闭源前沿模型相当。

为什么值得看

把视觉设计任务转成可编辑代码,并给出可验证与审美分开打分的方案,对做代码生成与多模态奖励设计的人有直接参考价值。

GPTClaudeQwen强化学习代码生成

信源1 家

  1. [1]arXiv cs.AI一手信源AesCode: Aesthetic Code Generation with Decoupled Cross-Modal Rewards

关键事实

  • 论文提出 AesCode,将幻灯片、海报、仪表盘等信息密集的视觉产物生成为结构化、可编辑、可验证的代码。[1]

  • AesCode 把目标表示为描述整块画布的设计图,使每个属性都可归因,并据此导出确定性验证器与 VLM 评委两类互补奖励。[1]

  • 不可解析属性由 VLM 评委依据与图元素和关系绑定的样本专属 Visual Graph Rubric 评估,奖励通过带逐通道归一化的强化学习优化。[1]

  • 论文构建了分别评估可验证正确性与视觉质量的基准,其视觉分数与人类判断高度一致。[1]

  • 在相同参考图下,AesCode-8B 与 AesCode-32B 相对同规模 Qwen3-VL 基线视觉质量分别提升 31.1 和 22.4 个百分点。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。