arXiv 论文将注意力机制表述为格点规范理论
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载对称性约束下的唯一形式
论文的出发点是一个具体设定:每个实体可以独立旋转自己的坐标框架。作者指出,在这一自由度下会得到三条结论。第一,在纯规范扇区中,彼此不共享环路的两个关系完全无法相互作用。第二,衡量一个三角形唯一规范不变的方式,是取它的 holonomy H = T_ij T_jk T_ki 的类函数,也就是 Wilson 环。第三,对一条边的唯一等变更新写作 U = Ψ(H) T_ij,并要求 Ψ 满足共轭等变。作者由此强调,用 Wilson 环做边注意力并非众多设计中的一种可选方案,而是对称性所允许的唯一形态。这一推导把关系组合的顺序敏感性纳入框架:父亲母亲与母亲父亲并不相同,验证组合关系等价于闭合环路。
与三条既有路线的对应
作者把已有工作归入同一形式的三个片段。知识图谱中的可交换算子嵌入对应其阿贝尔(可交换)扇区。AlphaFold 的三角形更新与 Edge Transformer 具备其外形,即通过第三个顶点更新一条边,但不带这些约束。格点 QCD 则在格点上以等变方式构造同一对象。这一对照的意义在于说明:现有方法各自持有该形式的一部分,而论文给出的是完整约束下的版本,并据此把等变子族实例化为 holonomy attention,落到一般关系图上。
无训练推断与异常识别
实验部分给出两组数字。在稀疏图上,holonomy attention 不做任何训练、仅依靠组合,就能以 0.88 的准确率推断未观测的 S_4 关系,此时已有五分之一的边被破坏;这一表现达到或略低于专门的同步算法,而所有可交换架构在同一设定下被限制在 0.083。另一组结果针对被破坏的三角形:holonomy 评分的 AUC 为 0.99,可交换评分则因第二条选择规则被限制在 0.76。此外,该方法在没有标签的情况下也能把簇分开。论文篇幅为 7 页、含 1 张图,被 ML4PS 2026 接收,该研讨会与 NeurIPS 2026 同期举行。
为什么值得看
把关系推理的注意力形式推导为对称性下的唯一解,并给出无需训练的推断与异常检测结果,对图学习与知识图谱方向有直接参考价值。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
