arXiv 论文提出边缘 IoT 分割推理的副本恢复方案
论文AI 评分 58/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
针对分割推理中设备故障会中断推理流水线的问题，这篇论文提出一种副本感知的恢复方法：把原本运行在故障设备上的 TinyML 模型分段副本，部署到仍在运行的设备上。作者把副本宿主与通信协议的联合选择建模为混合整数线性规划问题，在闪存与运行时内存约束下，最小化重配置后的推理延迟，并同时计入计算与传输延迟。仿真基于 MobileNetV2 与异构 IoT 网络，与四种基线对比；实验在 15 台设备组成的网络中实现，最大链路速率降低 75%，MILP 方法的平均端到端推理延迟比 Computation Greedy 低 6.8%，比 Random 低 18.3%。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载问题与方案思路
分割推理把 TinyML 模型切成多段，分散到多台 IoT 设备上执行，以此绕开单台设备硬件资源不足的限制。但这条流水线依赖每台设备都正常在线，一旦某台设备失效，整条推理链路就会中断。论文提出的做法是副本感知恢复：为原本托管在故障设备上的模型分段准备副本，并在故障发生后把这些副本迁移到仍然存活的设备上，使推理能够继续完成，而不必从头重新编排整个流水线。
优化建模与约束
副本放到哪些设备、设备之间用什么通信协议，这两个选择被放在一起联合求解，形式化为混合整数线性规划问题。优化目标是重配置之后的推理延迟最小，延迟由计算延迟与传输延迟两部分构成。求解同时受两类资源约束：闪存容量决定设备能否容纳额外的模型分段副本，运行时内存限制则约束推理执行时的可用空间。这种建模方式把副本放置与通信协议选择纳入同一个目标函数，而不是分两步各自决策。
仿真设置与结果
评估使用 MobileNetV2 模型，在异构 IoT 网络上与四种基线方法对比。实验网络由 15 台 IoT 设备组成，设置中最大链路速率降低 75%，用以模拟链路条件受限的情形。结果显示，MILP 方法取得的平均建模端到端推理延迟，比 Computation Greedy 低 6.8%，比 Random 低 18.3%。论文关键词涵盖 TinyML、分割推理、物联网、容错与副本放置，说明其关注点集中在边缘推理的可靠性与延迟权衡上。
为什么值得看
边缘 TinyML 部署中设备故障是现实问题，该文给出了可量化的副本恢复与延迟优化方法。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。