双视图表示法提升时序语言模型推理准确率
论文AI 评分 68/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
一篇 arXiv 论文提出用互补表示做时序推理:模型同时接收折线图和归一化延迟嵌入两种视觉视图,前者保留绝对测量值与坐标框架,后者剔除正幅度缩放和偏移、突出时间结构。两个视图经独立视觉编码器转为视觉 token,通过多级特征融合进入同一个语言模型。基于 Qwen3-VL-8B 构建的双视图模型把 TSRBench 总体准确率从单用折线图的 44.5% 提升到 53.2%,高于所评估的最强专用 TSLM 基线的 36.7%;在 TSExam 上达到 89.9%,多变量 ChatTS 对齐的数值准确率为 86.8%。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载两种视图各管什么
论文关注的问题是:时序语言模型在把时间数据转成语言模型可读的表示时,应当保留什么、剔除什么。现有做法通常只给语言模型一种表示,等于对所有下游任务强加同一套归纳偏置。作者提出的互补表示包含两个视觉视图:折线图保留绝对测量值以及观测时的坐标框架,归一化延迟嵌入则把正幅度缩放和偏移消掉,同时把时间结构显露出来。两者由专门的视觉编码器分别处理,再以视觉 token 的形式、通过多级特征融合汇入同一个语言模型。这样模型既能利用时间结构,又不丢失原始测量框架。
消融与干预验证
作者在评估阶段做了干预实验,用来确认两个视图具有不同的不变性特征,即它们对幅度缩放、偏移等变换的敏感程度并不一致。单视图消融则显示,把两个视图合起来用,收益不只体现在基础感知层面,在预测和推理任务上的提升尤其明显。这说明双视图的价值并非简单叠加信息量,而是两种表示在不变性上形成互补。
基准数字与对比
模型构建在 Qwen3-VL-8B 之上。在 TSRBench 上,只用折线图的准确率为 44.5%,加入第二个视图后升至 53.2%;论文所评估的最强专用 TSLM 基线为 36.7%。此外,该模型在 TSExam 上取得 89.9% 的准确率,在多变量 ChatTS 对齐任务上的数值准确率为 86.8%。作者据此认为,互补表示可作为通用时序语言模型的一种有效设计原则。
为什么值得看
给出时序语言模型该保留与剔除哪些信息的具体设计原则,并附可对比的基准数字。
Qwen对齐论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
