AI 圈大事记

无问芯穹联合清华上交开源具身端侧推理引擎APXInf

工具AI 评分 75/100量子位待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

无问芯穹联合清华大学、上海交通大学开源具身智能端侧推理引擎APXInf。该引擎支持RTX 4090、Jetson Orin及Jetson Thor等平台,旨在解决具身模型在端侧部署时的延迟与稳定性问题。在Jetson Thor上,APXInf将Pi 0.5 FP8的端到端推理延迟从278ms降至26ms以内,推理频率达38.46Hz,满足机器人实时控制需求。

为什么值得看

大幅降低端侧推理延迟,解决具身智能规模化落地的实时性瓶颈。

信源1

  1. [1]量子位无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA

关键事实

  • 无问芯穹联合清华、上交开源具身端侧推理引擎APXInf。[1]

  • 支持RTX 4090、Jetson Orin、Jetson Thor等计算平台。[1]

  • Pi 0.5 FP8在Jetson Thor上推理延迟降至26ms以内,频率达38.46Hz。[1]

  • 使用Rust语言构建运行时,提供Python接口以兼顾稳定性与易用性。[1]

相关 · 工具

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。