arXiv论文提出移动网RAN感知联邦LLM流量整形方案

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对移动接入网环境下联邦大模型微调因无线波动与终端异构导致更新异步、与底层光传输入网需求失配的问题,作者提出让接入网充当感知学习的流量整形器。通过在基站内聚合异步终端更新,将其转化为规模与交付要求受限的少量聚合流,从而适配光路按需动态建立与释放,实现分组接入与动态光容量的结合。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

边缘微调的通信压力

联邦式大模型微调把训练数据留在本地,让模型在靠近数据产生的位置完成适配,由此在接入网与传输网上形成反复出现、且对时延有明确要求的通信任务。这类任务在移动无线接入网中尤为突出:无线信道质量波动、终端位置移动、设备能力参差不齐,都会让各终端提交的模型更新无法同时到达。论文指出,这些更新虽然属于同一轮学习、指向同一目的地、共享同一截止时间,但传统传输网仍把它们当作彼此独立的设备流来处理,既看不到它们之间的关联,也难以据此高效分配传输资源。

与光传输的错配

论文认为,这种处理方式与光电路交换及全光传输的特性存在冲突。光传输更偏好可预测、可调度的流量需求,而当前被拆散成独立流的联邦学习更新,恰恰缺少这种可预测性。作者提出的思路是让未来的无线接入网承担学习感知的流量整形角色,把分布式模型适配的通信结构显式暴露给传输层。具体做法是在 gNB 处进行网内聚合,把来自不同终端、到达时间不一的异步更新合并成数量更少、体积有界、交付要求明确的聚合传输,从而把原本零散的流量整理成光传输能够调度的形态。

聚合窗口与光路调度

经过这样的整形之后,联邦大模型流量就具备了被选择性配置光连接的资格:可以在聚合传输窗口内建立高容量路径,并在两轮学习之间把这些路径释放掉。论文描述的整体架构,是把基于分组的移动接入所具有的灵活性与动态配置的光容量结合起来,作为在可编程接入网与传输网之间协调分布式 AI 工作负载的一种更广泛思路。对读者而言,这意味着联邦微调在移动场景下的瓶颈不只在无线侧,传输层如何识别并利用学习任务的共同结构,同样决定了资源能否被有效利用。

为什么值得看

为移动网络边缘分布式大模型微调的通信瓶颈与光传输调度失配问题提供了新架构思路。

大模型微调论文

信源1 家

  1. [1]arXiv cs.AI一手信源Federated Learning for LLMs over Mobile Networks: Issues and Solutions in the RAN Transport

关键事实

  • 移动接入网环境下联邦大模型微调面临更新异步与底层光传输入网需求失配的挑战[1]

  • 提出让未来接入网充当感知学习的流量整形器,向传送层暴露分布式模型适配的通信结构[1]

  • 通过在基站进行网内聚合,将异步终端更新转化为规模与交付要求受限的聚合传输[1]

  • 整形后的流量适配按需动态建立与释放高容量光路,结合分组接入与动态光容量[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。