AI 圈大事记

新方法LGKD提升3D-CNN动作识别蒸馏效果

论文AI 评分 60/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

针对视频分析中特征蒸馏方法常忽视时间维度差异的问题,研究人员提出标签引导知识蒸馏(LGKD)。该方法包含样本级和类别级蒸馏两个组件,利用真实标签和教师模型概率分布指导学生模型学习,并引入原型网络捕捉同类样本间的关系知识。在UCF101和HMDB51数据集上的实验验证了该方法的有效性。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

解决视频特征蒸馏痛点

知识蒸馏旨在将高性能教师模型的知识迁移至轻量级学生模型。研究团队在回顾3D-CNN特征蒸馏时发现,现有的视频分析特征蒸馏方法大多是对图像分析方法的简单移植,往往忽略了视频特征在时间维度上的差异。为了解决这一问题,团队提出了标签引导知识蒸馏(LGKD)方法,利用真实标签来指导学生模型特征的蒸馏过程。

双层级蒸馏机制

LGKD方法包含两个核心组件:样本级蒸馏和类别级蒸馏。样本级蒸馏利用标签信息以及教师模型的概率分布,指导学生模型学习那些对时间准确度有显著影响的特征,同时减少噪声干扰。类别级特征蒸馏则采用原型网络,进一步捕捉同类样本内部样本之间的关系知识,增强学生模型学习高维语义信息的能力,从而提升模型的泛化性能。

实验验证与结果

为了证明该方法的有效性和优越性,研究团队在两个基准动作识别数据集UCF101和HMDB51上进行了全面的实验。实验结果表明,该方法在这两个数据集上都取得了具有竞争力的结果,验证了通过标签引导和双层级蒸馏机制能够有效提升3D-CNN在动作识别任务中的表现。

为什么值得看

为3D-CNN模型压缩提供了针对视频时序特征的新思路。

蒸馏数据集

信源1

  1. [1]arXiv cs.AI一手信源Label-Guided Knowledge Distillation for 3D-CNNs in Action Recognition

关键事实

  • 提出LGKD方法解决视频特征蒸馏忽视时间维度差异的问题[1]

  • 包含样本级和类别级蒸馏两个组件[1]

  • 在UCF101和HMDB51数据集上进行了实验[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。