Coarse3D 提出可控稀疏结构生成方法,可直接替换图生 3D 流程粗阶段

论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

Coarse3D 是一个从任意无位姿图像生成体素几何的稀疏结构生成模型,目标是解决粗到细 3D 生成中第一阶段结构不可控、与输入图像不一致的问题。它引入三项设计:以首帧为锚的规范空间,使生成与第一视角对齐并保留物体中心归一化;双塔 DiT,将生成与辅助前馈重建耦合,学习空间接地特征;空间先验引导注意力,用像素到体素的对应关系约束交叉注意力。该方法可直接替换现有流程的粗阶段,实验显示稀疏结构质量明显提升,并带动最终 3D 生成效果,达到当前最优水平。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的问题

粗到细的 3D 原生生成高度依赖第一阶段产出的稀疏结构,这一结构决定后续细化阶段的全局朝向与整体几何。现有粗生成器有两个短板:语义规范化不明确,导致朝向难以控制;2D 与 3D 的接地关系较弱,生成结构常与输入图像不一致。Coarse3D 针对这两点,从任意无位姿图像直接生成体素形式的稀疏结构。

三项关键设计

第一项是以首帧为锚的规范空间,把生成结果与第一张输入视角对齐,同时保留以物体为中心的归一化方式,从而让朝向可控。第二项是双塔 DiT,把生成分支与辅助的前馈重建分支耦合起来,使模型学到具备空间接地能力的特征。第三项是空间先验引导注意力,利用像素到体素的对应关系对交叉注意力施加约束,增强结构与输入图像的一致性。

替换方式与效果

Coarse3D 定位为可直接替换现有粗到细流程中的粗阶段,不需要改动后续细化环节。材料给出的实验结论是:稀疏结构质量获得明显提升,最终 3D 生成效果也随之稳定改善,整体达到当前最优水平。材料未披露具体参数量、训练数据规模与量化对比数值。

为什么值得看

图生 3D 的粗阶段决定整体朝向与几何,该方法给出可替换模块并声称达到 SOTA,值得关注 3D 生成流程的人查看。

对齐

信源1 家

  1. [1]arXiv cs.AI一手信源Coarse3D: Controllable and Faithful Sparse Structure Generation for Image-to-3D

关键事实

  • Coarse3D 从任意无位姿图像生成朝向可控、结构忠实的体素几何[1]

  • 三项设计包括首帧锚定规范空间、双塔 DiT 与空间先验引导注意力[1]

  • 该方法可直接替换现有粗到细 3D 生成流程的粗阶段[1]

  • 实验称其显著提升稀疏结构质量并一致改善最终 3D 生成,达到 SOTA[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。