ProtoFlow结合向量量化与原型先验流匹配用于多变量时序预测

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对多变量时序预测,现有基于扩散的方法推理步数多,而基于VQ的自回归方法存在暴露偏差与训练推理不匹配问题。ProtoFlow框架先通过向量量化自编码将序列映射至离散隐空间,再从已训练码本构建结构化先验,最后用基于DiT的整流流将先验传输至未来隐表征。以学习到的原型先验替代通用高斯噪声初始化,规避了自回归的 rollout 不匹配,加速训练收敛,并在基准数据集上取得更优预测性能与高效推理。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从扩散到非迭代路线

多变量时间序列预测里,生成式建模一直被认为有潜力,尤其是在维度较高的场景下。扩散类方法能取得有竞争力的结果,但推理阶段往往要跑很多次采样,代价偏高。于是不依赖迭代的 VAE 类预测框架被当作更省算力的替代方案。在这条技术线上,向量量化(VQ)通过把多变量序列映射成紧凑的离散表示,让潜空间的建模变得可控。不过已有的 VQ 预测方法大多依赖自回归的 token 生成方式,这种方式会带来曝光偏差,也会造成训练与推理之间的不一致。论文提出的思路正是针对这一环节:保留 VQ 带来的离散、可控潜空间,同时换掉自回归的生成方式。

码本当作先验用

流匹配为潜空间预测提供了一种高效且非自回归的选择,但已有做法通常从通用的高斯先验出发来初始化传输过程。论文作者注意到,训练好的 VQ 码本本身已经捕捉到了具有代表性的潜原型,因此可以充当信息量更足的先验。基于这一点,他们提出 ProtoFlow,把向量量化自编码与原型先验流匹配结合起来。具体流程分三步:先把多变量序列映射到离散潜空间;再从学到的码本中构造出一个结构化的先验;最后学习一个基于 DiT 的整流流,在历史观测的条件下,把样本从该先验输运到未来的潜表示。用学到的原型先验替换通用噪声初始化,是这套方法与既有流匹配公式的主要差别。

绕开自回归错配

按论文的表述,改用原型先验之后,ProtoFlow 不再需要自回归 token 预测那种逐步展开的过程,因而避开了 rollout 阶段出现的错配问题,同时训练收敛也更快。在基准数据集上的大量实验显示,该方法在预测表现上稳定占优,并且推理效率较高。对关注时间序列预测的读者来说,这项工作的意义在于给出了一条不同于扩散多步采样、也不同于 VQ 自回归生成的路线:把离散码本从表示工具变成生成过程的起点。需要留意的是,材料只给出了方法框架与实验结论层面的描述,未提供具体数据集名称、误差指标数值、采样步数对比或参数量等细节,因此这些方面的实际收益尚无法从现有信息中判断。

为什么值得看

用码本原型先验替代高斯噪声初始化流匹配,解决自回归暴露偏差并加速收敛,为高效时序预测提供新范式。

量化数据集

信源1 家

  1. [1]arXiv cs.AI一手信源ProtoFlow: Prototype-Guided Flow Matching for Multivariate Time Series Forecasting

关键事实

  • ProtoFlow框架结合向量量化自编码与原型先验流匹配进行多变量时序预测[1]

  • 使用基于DiT的整流流将码本原型先验传输至基于历史观测的未来隐表征[1]

  • 以学习到的原型先验替代通用高斯噪声初始化,避免自回归token预测的rollout不匹配并加速训练收敛[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。