ProtoFlow结合向量量化与原型先验流匹配用于多变量时序预测
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载从扩散到非迭代路线
多变量时间序列预测里,生成式建模一直被认为有潜力,尤其是在维度较高的场景下。扩散类方法能取得有竞争力的结果,但推理阶段往往要跑很多次采样,代价偏高。于是不依赖迭代的 VAE 类预测框架被当作更省算力的替代方案。在这条技术线上,向量量化(VQ)通过把多变量序列映射成紧凑的离散表示,让潜空间的建模变得可控。不过已有的 VQ 预测方法大多依赖自回归的 token 生成方式,这种方式会带来曝光偏差,也会造成训练与推理之间的不一致。论文提出的思路正是针对这一环节:保留 VQ 带来的离散、可控潜空间,同时换掉自回归的生成方式。
码本当作先验用
流匹配为潜空间预测提供了一种高效且非自回归的选择,但已有做法通常从通用的高斯先验出发来初始化传输过程。论文作者注意到,训练好的 VQ 码本本身已经捕捉到了具有代表性的潜原型,因此可以充当信息量更足的先验。基于这一点,他们提出 ProtoFlow,把向量量化自编码与原型先验流匹配结合起来。具体流程分三步:先把多变量序列映射到离散潜空间;再从学到的码本中构造出一个结构化的先验;最后学习一个基于 DiT 的整流流,在历史观测的条件下,把样本从该先验输运到未来的潜表示。用学到的原型先验替换通用噪声初始化,是这套方法与既有流匹配公式的主要差别。
绕开自回归错配
按论文的表述,改用原型先验之后,ProtoFlow 不再需要自回归 token 预测那种逐步展开的过程,因而避开了 rollout 阶段出现的错配问题,同时训练收敛也更快。在基准数据集上的大量实验显示,该方法在预测表现上稳定占优,并且推理效率较高。对关注时间序列预测的读者来说,这项工作的意义在于给出了一条不同于扩散多步采样、也不同于 VQ 自回归生成的路线:把离散码本从表示工具变成生成过程的起点。需要留意的是,材料只给出了方法框架与实验结论层面的描述,未提供具体数据集名称、误差指标数值、采样步数对比或参数量等细节,因此这些方面的实际收益尚无法从现有信息中判断。
为什么值得看
用码本原型先验替代高斯噪声初始化流匹配,解决自回归暴露偏差并加速收敛,为高效时序预测提供新范式。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
