TimeInteract实现流式时序实时交互推理
论文AI 评分 65/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
现有时序语言模型无法在生成回复时继续处理新观测,TimeInteract提出时序交互新范式,让模型持续感知输入并自主决定响应时机。其采用双视图流式编码器、响应控制机制与解耦流式推理三大设计,避免阻塞后续观测。基于从理解到适应性的交互层级,构建含34588个片段的StreamTSI-34K数据集。在四级交互任务中,该模型较现有大模型最高提升23.92分,实现近零流停滞与2.15倍推理加速。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载流式时序交互新范式
现实世界的时序数据持续演变,但现有时序语言模型具有静态局限性,要么离线处理完整序列,要么在流式输入与响应生成间交替,导致交互期间无法处理新观测。TimeInteract提出时序交互新机制,使模型能够持续感知输入的时序观测与用户意图,自主判断保持沉默或触发回复,且在生成回复时继续处理新到达的数据,打破了原有模型的处理阻塞瓶颈。
三大核心架构设计
为落实该交互机制,TimeInteract引入三项关键设计:首先是双视图流式时序编码器,用于同时捕捉局部变化与历史动态;其次是响应控制机制,负责学习何时触发回复;最后是解耦流式推理机制,将控制过程与响应生成分离,从而避免阻塞后续观测的输入与处理。这三项设计共同保障了模型在流式场景下的实时性与交互性。
评测数据集与性能表现
研究定义了从理解到适应性的交互能力层级,并据此构建了大规模流式时序交互数据集StreamTSI-34K,涵盖单轮与多轮设定下的合成及真实时序,包含34588个片段和77505个响应。在全部四个交互层级上,TimeInteract均优于现有大语言模型、视觉语言模型和时序语言模型,在挑战性任务上最高提升23.92分。同时,它改善了响应触发准确性,实现近零流停滞以及最高2.15倍的推理加速。
为什么值得看
突破流式时序处理与响应生成的互斥阻塞瓶颈,实现近零停滞与推理加速,对实时监控等场景极具价值。
大模型数据集
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
