arXiv 论文：有限实验下整合信息 φ 的可辨识性边界
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载行为相同机制不同
论文把可解释性、AI 审计与机器意识评估所依赖的机制层面量，界定为系统因果转移律的泛函：它刻画系统如何计算，而非输出什么。实验只能通过有限、局部且带噪声的干预去接触这条转移律。作者要回答的是，这类量在什么条件下能从实验的访问范围中被识别、对机制连续、并能由有限数据认证，并选取整合信息论中的整合信息 φ 作为一个刻意苛刻的算例，在单元数为四和五、真值已知的随机网络中给出确切答案。行为层面可能完全沉默：一个循环网络与一个前馈网络在各自响应延迟上的输入输出规律一致，所携带的 φ 分别为 0.28 比特与 0 比特，而内部记录在 4 至 53 次试验内即可把两者区分开。
局部访问的盲区
部分访问同样可能看不见差别。在作者给出的例子里，被排除在单步记录之外的单元会带来 0.30 至 1.02 比特的精度下限，无论样本量多大都无法压低。在全但自身奇偶网络中，任意长度的记录只能通过若干隐藏单元保真度的乘积看到它们，这是一种对称性，精确检验中一次干预就打破了它。这说明实验能看到什么，取决于干预覆盖了哪些单元，而不只取决于数据多少。
指标在边界处的跳变
φ 的取值有陡峭的边缘：它按一个准则挑选划分以及相应的原因与效应，却报告另一个量，因此机制发生极微小变化、跨过边缘时，φ 会大幅改变；在随机网络中作者找到的边缘里，绝大多数都出现这种跳变。作者还报告，在几乎完美拟合干预数据的替代模型中，约 1% 的模型对 φ 的误报幅度超过 20%。这意味着用拟合优度判断机制量是否可靠并不充分。
单侧结论仍可认证
单侧断言依然成立：同一批数据可以认证边缘两侧的下界。作者证明，在一个 64 维的机制区域内 φ 始终大于 1.004 比特，并能从约 10^7 次受控转移中认证这一点，错误认证概率不超过 α。论文共 30 页、含 7 幅图，代码以附件形式提供。对读者而言，可测量性由此成为一个有可计算答案的设计问题：要认证什么量、需要干预哪些单元、需要多少受控转移，都可以在实验之前先行估算。
为什么值得看
为可解释性与 AI 审计中依赖机制量度的做法划出可计算的可测性边界，并给出有限数据下的认证条件。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。