IMUDINO:面向惯性感知的自蒸馏基础模型发布
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载此前惯性模型的局限
论文把已有惯性基础模型的问题归纳为三点。其一是覆盖面窄,多数工作只针对惯性感知的某一个子领域,整体范围比视觉和自然语言的基础模型小得多;其二是效果不一定占优,在人类活动识别这类任务上,部分基础模型的表现有时低于当时最好的有监督方法;其三是使用条件苛刻,模型往往要求固定的输入长度和采样率,换到训练时没见过的传感器佩戴位置,泛化能力就明显下降。这三点共同构成了作者要解决的出发点,也解释了为什么需要一个更通用的惯性骨干模型。
自监督范式如何迁移
IMUDINO 的做法是把 DINO 这套自监督学习范式搬到惯性数据上。关键改动在于设计了一组保持语义的运动变换,用来模拟真实采集中的两类变化:运动模式本身的差异,以及传感器安装方式与位置的不同。这样模型在预训练阶段就能见到大量语义不变、外观变化的样本,从而学到不依赖具体配置的表示。作者强调这些变换是语义保持的,也就是变换后动作的含义不变,只是采集条件变了,这与惯性信号的实际使用场景相对应。
架构与可变采样率
模型结构本身并不复杂,用的是普通 transformer 编码器,配合频率感知的位置编码。这一组合让模型原生支持可变的输入长度和采样率,而不需要把数据重采样到统一规格。作者称这个看似简单的设置在学习全局特征和稠密特征时效果显著,并且这些特征能跨用户、跨传感器配置、跨任务泛化;在机器人里程计场景中,还能跨不同本体泛化。论文希望 IMUDINO 能作为惯性感知的骨干模型,推动通用惯性基础模型的后续开发,并给出了官方代码仓库链接。
为什么值得看
惯性感知长期缺少通用骨干模型,该工作把自监督范式与可变采样率架构结合,值得关注可穿戴与机器人感知方向的人一看。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
