新框架解决单目手部姿态估计难题,HO3D指标提升超37%

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

单目RGB手部姿态估计在相机坐标系下存在深度模糊及局部姿态与全局腕部位置的透视投影耦合难题。新框架基于主流编码器-解码器架构,引入变换同构监督提取手部深度信息,并采用透视信息嵌入解除上述耦合效应。同时提出帧率感知的多数据集训练策略,实现序列姿态逐步精炼。在HO3D数据集上,该方法的CS-MJE指标较现有最优结果最高提升37.1%。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

单目相机空间估计的难点

这项研究关注的是从单张彩色图像推断手部在相机坐标系中的位姿。已有的局部手部位姿方法只给出相对于手腕的姿态,而全局估计还要额外确定手腕在相机坐标系里的位置。论文指出,相机空间估计面临两个根本性困难:一是单目条件下深度信息本身存在歧义,二是手部局部姿态与手腕全局位置在透视投影中相互耦合。作者进一步说明,这种耦合意味着投影结果由局部手部姿态、手腕位置以及相机内参共同决定,三者并非彼此独立。

两项针对性的结构设计

为应对上述困难,作者在主流编码器—解码器架构中集成了两项设计。其一是 Transformation-Isomorphism Supervision,用于提取手部深度相关信息;其二是 Perspective Information Embedding,用于化解局部姿态与手腕位置之间的耦合效应。两项设计都嵌入在同一套编码器—解码器框架内,而不是各自独立的模块。论文将这一整套做法称为完全集成的方案,并说明其目标是在相机坐标系下得到更准确的手部位姿。

面向序列的姿态精修

除单帧估计外,作者还提出一种帧率感知的多数据集训练策略,用于对序列姿态做进一步精修。该策略的特点在于同时考虑多个数据集的训练,并把帧率因素纳入训练过程,以适配连续帧的姿态优化。论文给出的实验对比集中在 HO3D 数据集上,以 CS-MJE 作为衡量指标,报告该集成方法相对当前最优方法取得优势。摘要未披露具体数值,也未说明该策略在其他数据集上的表现。

适用范围与读者关注点

从摘要可见,该方法面向单目 RGB 输入的手部位姿估计,属于计算机视觉与图形学交叉方向,论文同时标注了计算机视觉、人工智能与图形学分类。对关注手部追踪的读者而言,这项工作的意义在于把深度歧义与投影耦合作为两个明确的问题分别处理,并给出可嵌入现有编码器—解码器结构的做法;其局限也较清楚:验证以 HO3D 上的 CS-MJE 为主,摘要没有给出跨数据集或真实场景下的完整结论,实际部署效果仍需查看论文全文与项目页面。

为什么值得看

有效解决单目3D手部姿态估计中深度与投影耦合痛点,大幅刷新HO3D基准精度。

数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Estimating Accurate Hand Pose in Camera Space with Vision Transformer

关键事实

  • 新框架引入变换同构监督与透视信息嵌入,解决单目手部姿态估计的深度模糊与投影耦合问题[1]

  • 提出帧率感知的多数据集训练策略,用于序列姿态精炼[1]

  • 在HO3D数据集上,CS-MJE指标较SOTA最高取得37.1%的优势[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。