英伟达与MIT团队开源H3视频增强方案,支持4K重生成

工具AI 评分 82/100量子位待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

英伟达与麻省理工学院研究人员组成的 Efficient-Large-Model 团队在 Hugging Face 发布视频增强项目 Open-H3-Regenerate-2K 的模型权重,推理代码已在 NVlabs/Sana 仓库开放。该方案基于 MiniMax H3,把低分辨率视频草稿重新生成为高分辨率视频,支持 2560×1440 的 2K 输出,最高可实现 3840×2160 的原生 4K 重生成。训练时保持 H3 Transformer 主干与视频 VAE 参数不变,只训练新增的细化 LoRA,推理时与社区适配器合并,通过三步去噪生成细节。在单张 NVIDIA B200 上,约 5 秒视频的放大、细化与 2K 解码合计耗时从 87.26 秒降至 22.45 秒。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

开放权重与代码

英伟达与麻省理工学院的研究团队在Hugging Face上发布了名为Open-H3-Regenerate-2K的模型权重,配套的推理代码则放在NVlabs/Sana仓库中供取用。这一方案建立在MiniMax H3的基础之上,目标是把低分辨率的视频草稿重新生成为高分辨率画面。H3-Base的权重此前已经开放,能够生成768P的音视频内容;而官方提供的H3-Regenerate-2K模块则以API形式对外服务。此次公开的权重让使用者可以在本地复现2K重生成流程,而不必完全依赖接口调用。

只训细化LoRA

训练阶段的做法是冻结H3 Transformer主干与视频VAE的参数,仅对新增的细化LoRA进行优化。这样做的结果是基础模型的能力被完整保留,新增模块只承担把画面细节推向更高分辨率的职责。推理时,细化LoRA会与LightX2V FL2VA Turbo、LMS Sharp等适配器合并使用,在目标分辨率下通过三步去噪重新生成画面细节。为了压低编解码开销,方案采用社区潜空间放大器直接放大视频的潜在表示,而不是在像素空间反复转换。加速方面则结合了SoL-Engine稀疏注意力、低精度计算以及快速VAE解码器。

单卡耗时对比

在单张NVIDIA B200上预热之后,处理约5秒视频的耗时从87.26秒下降到22.45秒,速度约为原来的3.9倍。其中快速解码器把解码环节从约15秒压缩到约1.6秒,是整体提速的重要来源。输出规格上,该方案支持2560×1440的2K画面,最高可完成3840×2160的原生4K重生成。这意味着原本只能产出低分辨率草稿的流程,可以在相近的硬件条件下得到细节更丰富的高分辨率结果,而耗时增长被控制在可接受范围内。

画质评分与生态

在RefinerBench-150评测中,该方案的UniPercept平均分为60.0,官方API为53.4。VBench的结果显示,其在美学质量、成像质量和主体一致性上得分更高,而官方API在运动平滑度上略占优势。从生态角度看,MiniMax H3于今年8月开放权重,一个月内下载量超过2400万次,衍生模型超过300个。对使用者而言,开放权重加上本地推理代码,使得在自有硬件上运行2K重生成成为可能,同时评测数据也提供了与官方API效果对比的参照。

为什么值得看

H3 高分辨率重生成环节首次有了可自行部署的开放实现,并给出单卡提速与画质对比数据。

英伟达MiniMaxHugging FaceAPI

信源1 家

  1. [1]量子位英伟达团队基于 MiniMax H3 开源视频增强方案,最高支持 4K 重生成

关键事实

  • Efficient-Large-Model 团队在 Hugging Face 发布 Open-H3-Regenerate-2K 的模型权重,配套推理代码在 NVlabs/Sana 仓库开放[1]

  • 方案支持 2560×1440 的 2K 输出,最高可实现 3840×2160 的原生 4K 重生成[1]

  • 训练阶段保持 H3 Transformer 主干与视频 VAE 参数不变,仅训练新增的细化 LoRA[1]

  • 单张 NVIDIA B200 上约 5 秒视频的潜空间放大、三步细化与 2K 解码合计耗时由 87.26 秒降至 22.45 秒[1]

  • RefinerBench-150 上相同 2K 输出条件下,该方案 UniPercept 平均分 60.0,官方 H3-Regenerate-2K API 为 53.4[1]

相关 · 工具

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。