研究揭示离散扩散模型置信度局限

论文指出离散扩散模型在处理像素或词元等存在内在依赖关系的域时，仅当写入位置在给定固定词元下条件独立时，采样步骤才匹配训练分布。研究表明，位置分布的乘积无法匹配依赖组，且位置分布无法确定组依赖性。在合成任务测试中，生成分布的总变异为采样噪声底层的 29 倍，而单样本指标为 1.0。