研究提出选择器方法改善指针网络跨规模泛化

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文研究强化学习训练的指针网络在无人机配送路径问题中的跨规模泛化。作者以带容量约束的车辆路径问题作为代理,固定容量对应无人机载重限制,指出指针网络虽与规模无关,但放大或缩小问题规模时解的质量都会下降,原因包括节点密度变化、注意力分散和均值池化图上下文被稀释。作者比较了架构级、编码器侧和解码器侧的多种改法,并提出可学习的置换不变图上下文聚合机制,以加权平均和 Set2Set 实现。基于熵的注意力缩放把 CVRP20 到 CVRP100 的差距缩小 1.41 个百分点,所提聚合方法在 CVRP100 到 CVRP20 上提升约 0.9 个百分点。作者据此引入选择器,为每个训练-目标规模组合挑选最佳模型,在九个已见组合和九个未见规模组合中的八个上降低成本。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

问题设定与退化原因

论文关注无人机末端配送与应急配送中的路径规划:客户数量会变化,而混合整数规划与启发式方法要么扩展性差,要么需要针对具体问题专门设计,因此作者转向学习型方法。强化学习的吸引力在于,单一策略无需重新训练就能适配不同问题规模。注意力式指针网络本身与规模无关,但作者发现,无论把规模放大还是缩小,解的质量都会下滑。为便于控制变量,作者用带容量约束的车辆路径问题作为代理任务,把容量固定,用来对应无人机的载重限制。作者把退化归因于三点:节点密度发生偏移、注意力被分散,以及均值池化得到的图上下文被稀释。

两类改法与量化效果

作者系统比较了三种层面的修改:整体架构、编码器侧和解码器侧,并据此提出一种可学习的、对排列不变的图上下文聚合机制,分别以加权平均和 Set2Set 两种形式实现。实验显示,两个迁移方向对改进的需求并不相同:基于熵的注意力缩放把 CVRP20 到 CVRP100 的性能差距缩小了 1.41 个百分点;而所提聚合方法在更困难的 CVRP100 到 CVRP20 迁移上取得最大提升,约为 0.9 个百分点。也就是说,放大规模与缩小规模各自受益于不同的改动,两者并不互相替代。

选择器与适用范围

利用上述互补性,作者引入一个选择器,为每一对训练规模与目标规模挑选最合适的模型。相对于参考模型,该选择器在九个已见的训练-测试组合上全部降低成本,在涉及未见规模的九个组合中也有八个取得改善,这些未见规模包括 CVRP35、CVRP75 和 CVRP200。摘要未给出选择器自身的额外开销与推理成本细节,也未说明在真实无人机配送场景中的验证情况,相关结论仍限于该代理任务与所测试的规模区间。

为什么值得看

关注强化学习路径规划与指针网络跨规模泛化的读者,可从中了解性能退化原因及两种互补的改进方向。

强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源From Comparison to Selection: Enhancing Cross-Scale Generalization of Pointer Networks Trained with Reinforcement Learning for Capacitated Drone Delivery Routing

关键事实

  • 论文以带容量约束的车辆路径问题作为代理,固定容量对应无人机载重约束[1]

  • 作者指出指针网络在放大和缩小规模时解的质量都会下降,并归因于节点密度变化、注意力分散与均值池化图上下文稀释[1]

  • 基于熵的注意力缩放将 CVRP20 到 CVRP100 的性能差距缩小 1.41 个百分点[1]

  • 所提图上下文聚合方法在 CVRP100 到 CVRP20 迁移上提升约 0.9 个百分点[1]

  • 选择器在九个已见训练-测试组合及九个含未见规模的组合中的八个上降低成本[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。