注册

论文提出 IoD：把拆分推理做成 5G 用户面网络 API

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇投稿至 IEEE Future Networks World Forum 2026 的论文提出 Inference on Demand（IoD）抽象，把拆分推理以类 CAMARA 的 API 形式暴露出来，并在 5G 用户面路径上带内传递拆分感知的张量上下文。作者指出，现有移动系统能传输张量，却不暴露也不理解赋予张量业务含义的推理上下文；此前的动态分区、协同推理与流水线拆分方案仍受限于应用、对网络无感知或缺少上下文。团队在基于可编程 UPF 的测试床上用可分区视觉 AI 负载验证，自适应拆分选择可作为面向网络的服务运行，避免静态配置的刚性成本。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

要解决的问题

论文的出发点是边缘 AI 推理作为网络服务时的落差：移动系统可以把张量搬运到需要的位置，但既不对外暴露、也不理解这些张量背后的推理上下文，而正是上下文让张量具备业务含义。作者梳理了此前的三类做法——动态分区、协同推理与拆分流水线，认为它们各自存在局限：有的与具体应用绑定，有的对网络状态无感知，有的缺少上下文信息。这一判断构成了 IoD 的设计前提，即推理服务需要让服务意图、运行时分区与张量传输对移动数据面可见。

IoD 的做法

针对上述落差，作者提出 Inference on Demand（IoD）抽象，把拆分推理通过类 CAMARA 的 API 暴露给网络侧，同时在 5G 用户面路径上带内携带拆分感知的张量上下文。这样一来，拆分推理不再只是把计算卸载出去，服务意图、运行时分区与张量传输三者都对移动数据面可见。论文的验证环境是基于可编程用户面功能（UPF）的测试床，负载选用可分区的视觉 AI 工作负载，考察自适应拆分选择能否作为面向网络的服务来运行。

验证与结论

在可编程 UPF 测试床上，作者用可分区视觉 AI 负载评估 IoD，结果显示自适应拆分选择可以作为网络侧服务运行，同时避开静态配置那种刚性的成本特征。作者由此提出，当服务意图、运行时分区与张量传输对移动数据面可见时，拆分推理的意义超出单纯的卸载，指向一种网络原生 AI 服务路径：由可编程的电信基础设施为用户侧应用统一协调计算、上下文与连接。该论文被 IEEE Future Networks World Forum 2026（葡萄牙）接收发表。

为什么值得看

把推理上下文纳入 5G 用户面，是边缘 AI 从「传数据」走向「网络原生服务」的一次具体尝试，值得关注网络与推理协同方…

API论文

信源1 家

  1. [1]arXiv cs.AI一手信源Exposing AI Inference as a Telco Network API over the 5G User Plane

关键事实

  • 论文提出 Inference on Demand（IoD），通过类 CAMARA 的 API 暴露拆分推理，并在 5G 用户面路径带内携带拆分感知的张量上下文[1]

  • 作者认为当前移动系统可传输张量，但不暴露也不理解赋予张量业务含义的推理上下文[1]

  • 既有动态分区、协同推理、拆分流水线方案被指仍受应用绑定、网络无感知或缺少上下文所限[1]

  • 在基于可编程 UPF 的测试床上以可分区视觉 AI 负载评估，自适应拆分选择可作为面向网络的服务运行，避免静态配置的刚性成本[1]

  • 论文被 IEEE Future Networks World Forum 2026（葡萄牙）接收发表[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论