arXiv 论文提出「结构差距」：数据再多也替代不了结构化推理
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载论文针对的信念
论文针对现代 AI 中一个长期存在的看法：只要学习器足够大、训练数据足够多，显式的领域知识就可以省略。作者认为这一看法在特定任务上存在边界，并把这类任务称为结构编码问题——其输入输出映射由已知结构决定或受到强约束，结构可以是求解器、对称群、图、物理定律、测量算子、文法、组合搜索空间或优化目标。作者强调，这类任务的关键问题不是网络能否表达目标映射，稠密网络在表达能力上可能已经包含它，真正的问题在于有限数据下能否识别、外推并给出认证。
结构差距的定义
作者把「结构差距」定义为：一个接收支配结构的方法，与一个只接收样本的学习器之间，在有限资源条件下形成的差距。论文强调这一主张最有用的形式是渐近意义而非绝对意义：随着覆盖范围扩大，不依赖结构的学习器可以逼近结构化求解器，但任何有限数据集都可能留下残余不确定性，而结构按构造方式直接消解了这部分不确定性。换言之，差距不会因为数据变多而彻底消失，它只是在极限意义上收窄。
理论结果与实验
论文在高斯逆问题上给出了精确证明：已知算子的 Wiener 求解器可以达到 Bayes 风险，而在正确的线性类中，稠密经验学习器仍存在持续的期望超额风险。作者还证明了单元覆盖下界，以及未观测轨道不可识别的结果。实验部分在已知算子反演、稀疏恢复、图可达性并带规模外推的设置上展开，用来具体呈现上述机制。论文的结论是：当存在经过验证的结构时，可以在学习开始前用它约束假设空间，把学习留给结构未指定的部分。论文共 13 页，含 6 张图、2 张表，并附带补充材料与可复现代码和数据。
为什么值得看
它给出一个可证明的视角：在结构已知的任务上，把结构先验放进假设空间，比单纯堆数据更省资源。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。