rMuscle 框架加速 VLA 模型推理
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载重复执行中的相似性
这项工作的起点是对具身智能工作负载的观察。工厂场景被视为具身智能较早落地的方向，把重复性手工任务交给机器人有明确的经济回报，而结构化的工位也让现有策略模型更容易处理这些任务。视觉-语言-动作模型目前是这类机器人的主流策略范式，其推理延迟会直接影响机器人的响应速度与动作平滑程度。研究团队先对具身工作负载做了刻画，发现机器人在反复执行任务时存在相当程度的相似性，而且这种相似性不只体现在观测画面和动作轨迹上，还延伸到模型内部的中间状态。正是这一发现，构成了后续缓存设计的前提：既然多次执行之间大量计算是重复的，就有机会把上一次的结果留下来复用，而不是每次都从头算一遍。
双阶段缓存如何复用
rMuscle 是一个面向实时推理的视觉-语言-动作框架，其设计灵感来自人的肌肉记忆。它用双阶段缓存来利用跨执行相似性。其中上下文缓存负责复用视觉 token 的输出，从而减少需要做的计算量；动作缓存则复用神经元激活模式，减少对权重的访问次数。为了让缓存本身不成为负担，框架采用了三项配套手段：在线重算缓存，避免长期保存过期内容；滑动窗口式检索，控制每次查找的范围；以及在连续去噪步骤之间共享掩码，降低重复开销。这样做的目的是把缓存的显存占用和访问成本都压在较低水平，使复用带来的收益不被管理缓存的开销抵消。
加速幅度与适用范围
在 RTX 4090 与 Jetson Thor 两种硬件上，rMuscle 于 LIBERO、RoboTwin 以及真实物理操作任务中取得 1.29 至 1.42 倍的加速，同时在真实机器人上保持了原有的成功率。这一结果说明提速并未以牺牲任务完成质量为代价。从适用范围看，该方法依赖任务在多次执行间的相似性，因此其收益与工作负载的重复程度相关；论文所举的场景是结构化工厂工位上的重复性作业。对关注具身智能部署的读者而言，这意味着在不更换模型、不改变策略的前提下，通过推理框架层面的缓存复用，就有可能改善机器人的响应速度与动作流畅度，而硬件平台既包括桌面级显卡也包括边缘计算设备。
为什么值得看
解决了机器人 VLA 模型推理延迟痛点，提升响应速度与动作平滑度。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。