MC-Sparse框架无需训练即提升扩散Transformer生成速度

针对扩散Transformer长序列生成耗时问题，现有稀疏注意力机制在高稀疏度下会损害生成质量。研究定位其退化源于词元分组约束、交互选择不准及丢弃词元丢失贡献。由此提出免训练框架MC-Sparse，它挑选独立KV词元并将相似查询组成对齐组以提升GPU效率，同时缓存查询组、基于精确概率选出的KV索引及残差，供后续去噪步复用。在视频与3D生成模型上，该框架比现有基线保真度更高且加速更大。相对稠密注意力，在Minimax-H3-Base上实现1.80倍去噪加速，在3D生成上实现2.32倍加速，均无可见质量损失。