arXiv 论文提出 Neural Expansion 框架解释深度网络泛化机制
论文AI 评分 72/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇被 NeurIPS 2026 接收的论文提出 Neural Expansion 几何框架，用输入空间中方向选择性射线覆盖的扩张来解释深度网络泛化。作者以 Generalization Intervals 量化训练样本周围预测保持稳定的方向性区域，并在多种架构与数据集上观察到训练带来射线覆盖的渐进扩张，尤其沿 Jacobian 奇异值低的方向。该机制可解释相当比例的正确分类测试输入、对抗样本，以及错标或分布外样本，强调几何覆盖而非逐样本记忆。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载框架核心概念
论文关注深度网络在高度过参数化下仍能泛化这一现象，认为既有 margin 界、PAC-Bayesian 分析与神经正切核等范式多给出全局解释，缺少从训练动态中说明泛化如何涌现的机制视角。作者提出 Neural Expansion 几何框架，把泛化刻画为输入空间中方向选择性射线覆盖的扩张。具体以 Generalization Intervals 作为度量工具，量化每个训练样本周围在特定方向上预测保持稳定的区域，从而把输入空间曲率与模型预测行为联系起来。
实验观察与解释范围
作者在多种架构与数据集上开展实证研究，观察到训练过程带来射线覆盖的渐进扩张，且这种扩张在 Jacobian 奇异值较低的方向上更为明显。基于射线覆盖的几何，该框架能够解释相当比例的正确分类测试输入、对抗样本，以及被错标或来自分布外的样本，作者据此主张这些行为更多源于几何覆盖而非逐样本记忆。论文将自身定位为对现有深度学习全局理论的机制性补充，并已被 NeurIPS 2026 接收，同时公开代码。
为什么值得看
为深度网络泛化提供可量化的几何机制视角，并关联对抗样本与分布外样本行为，适合关注可解释性与泛化理论的读者。
量化论文数据集
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。