新研究提出规范锁原语以在神经网络中编码局部-整体层级
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
表征学习面临在神经网络内编码局部-整体层级的挑战。以往方法将树状结构展平为序列并用自回归训练，该方式适用于NLP句法树，但难以直接用于图像。为此，新研究提出名为规范锁的几何原语，将局部与整体建模为维度不低于4的向量，利用相对相位差编码信息。网络由位置绑定的自底向上与自顶向下神经场归纳构成，二者相互驱动直至达热平衡态。研究还揭示网络存在若干对称构型，打破对称的计算迭代次数取决于局部与整体在高维环上的排列夹角，且该机制与心理旋转现象存在关联。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载局部整体层级编码困境
在表征学习领域，如何在神经网络内有效编码局部与整体的层级关系是一项长期挑战。现有主流方案依赖将树状层级结构展平为类似字符串的序列，随后借助自回归机制训练序列到序列模型。尽管此类表征在处理自然语言处理中的句法树时表现尚可，但面对图像数据时，如何让该机制生效仍极不明确，这促使研究者探索全新的表征路径。
规范锁几何原语机制
针对上述局限，研究提出名为规范锁的几何原语。其核心思路是将局部与整体均建模为维度不低于4的高维向量，并通过向量间的相对相位差异来承载与编码信息。在归纳构建上，网络由具备位置绑定特性的自底向上与自顶向下神经场共同组成，这两类神经场持续相互驱动，直至整个系统达成热平衡状态。
对称破缺与心理旋转关联
研究进一步指出，上述网络中存在若干对称构型。打破这些对称性所需的计算迭代次数，并非固定不变，而是取决于局部与整体在高维环上的排列夹角。此外，这种基于高维空间角度的对称破缺机制，似乎与心理学中的心理旋转现象存在内在联系，为理解认知与计算模型的交汇提供了新视角。
为什么值得看
为图像等非序列数据的局部-整体层级表征提供新几何原语，突破传统自回归展平方法的局限。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。