IMUDINO:面向惯性感知的自蒸馏基础模型发布

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

arXiv 上出现一篇论文,提出 IMUDINO,作者称这是首个在人类活动识别、健康、动作捕捉与里程计等多类惯性感知任务上都能取得有竞争力表现的基础模型。此前惯性基础模型多只覆盖单一子领域,在人类活动识别等任务上有时不如有监督方法,且要求固定输入长度与采样率,对未见的传感器位置泛化差。IMUDINO 把 DINO 自监督范式迁移到惯性数据,用一组保持语义的运动变换模拟运动模式与传感器配置变化;架构为普通 transformer 编码器加频率感知位置编码,原生支持可变输入长度与采样率。作者称该设置可学到跨用户、传感器配置、任务乃至机器人里程计中不同本体的通用特征。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

此前惯性模型的局限

论文把已有惯性基础模型的问题归纳为三点。其一是覆盖面窄,多数工作只针对惯性感知的某一个子领域,整体范围比视觉和自然语言的基础模型小得多;其二是效果不一定占优,在人类活动识别这类任务上,部分基础模型的表现有时低于当时最好的有监督方法;其三是使用条件苛刻,模型往往要求固定的输入长度和采样率,换到训练时没见过的传感器佩戴位置,泛化能力就明显下降。这三点共同构成了作者要解决的出发点,也解释了为什么需要一个更通用的惯性骨干模型。

自监督范式如何迁移

IMUDINO 的做法是把 DINO 这套自监督学习范式搬到惯性数据上。关键改动在于设计了一组保持语义的运动变换,用来模拟真实采集中的两类变化:运动模式本身的差异,以及传感器安装方式与位置的不同。这样模型在预训练阶段就能见到大量语义不变、外观变化的样本,从而学到不依赖具体配置的表示。作者强调这些变换是语义保持的,也就是变换后动作的含义不变,只是采集条件变了,这与惯性信号的实际使用场景相对应。

架构与可变采样率

模型结构本身并不复杂,用的是普通 transformer 编码器,配合频率感知的位置编码。这一组合让模型原生支持可变的输入长度和采样率,而不需要把数据重采样到统一规格。作者称这个看似简单的设置在学习全局特征和稠密特征时效果显著,并且这些特征能跨用户、跨传感器配置、跨任务泛化;在机器人里程计场景中,还能跨不同本体泛化。论文希望 IMUDINO 能作为惯性感知的骨干模型,推动通用惯性基础模型的后续开发,并给出了官方代码仓库链接。

为什么值得看

惯性感知长期缺少通用骨干模型,该工作把自监督范式与可变采样率架构结合,值得关注可穿戴与机器人感知方向的人一看。

蒸馏论文

信源1 家

  1. [1]arXiv cs.AI一手信源IMUDINO: Self-distilled Foundation Model for Inertial Sensing

关键事实

  • 论文提出 IMUDINO,作者称其为首个在人类活动识别、健康、动作捕捉与里程计等多任务上均有竞争力表现的惯性感知基础模型[1]

  • 方法将 DINO 自监督学习范式迁移到惯性数据,使用一组保持语义的运动变换模拟运动模式与传感器配置变化[1]

  • 模型采用普通 transformer 编码器加频率感知位置编码,原生支持可变输入长度与采样率[1]

  • 作者称该设置学到的全局与稠密特征可跨用户、传感器配置、任务以及机器人里程计中的不同本体泛化[1]

  • 论文提交于 2026 年 11 月 5 日,编号 arXiv:2611.07437,作者共 12 人,第一作者为 Zhoutong Ye[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。