arXiv 论文：从法律角度论证 AI 权利与强制关闭开关可兼容
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载论文要回应什么
AI 安全领域有声音反对赋予 AI 权利，理由是权利会让强制关闭潜在危险系统难以获得正当性。这篇论文从法律角度切入，认为 AI 权利与关闭开关并不冲突。作者的讨论对象是假设中的未来 AI 系统：即便它们被赋予自然人地位，并因此拥有类似不可剥夺的存续权，法律框架仍能容纳强制关闭机制。论文把这一讨论定位为一种备用方案：如果禁止开发此类技术是方案 A，那么本文讨论的就是方案 B。作者同时声明，自己既不主张也不反对建造能力足以获得自然人地位的系统，问题只在于这类系统出现后法律应当如何处理。
关闭开关的两种形态
论文借助权利平衡与程序正当这两类法律原则，分析 AI 个体的存续权与人类免受灾难性伤害的权利之间的表面冲突。作者区分了两种关闭方式：一种是永久删除式关闭，另一种是可逆暂停式关闭，后者会保存系统的权重与状态。分析结论是，在 AI 权利制度下，永久删除式关闭可能受到质疑；而可逆暂停在几乎所有与安全相关的场景中都能获得相关法律原则的许可，并且可能足以满足安全需要。这一区分把争论从「有没有关闭权」转向「关闭采取什么形式、经过什么程序」。
安全审查的角色
论文提出，强制关闭机制可以附带定期或持续的安全审查条件，审查可由可信系统承担。作者把这类审查视为关闭机制获得正当性的程序环节，而非独立于关闭权之外的另一套安排。由此，关闭不再是一次性的终局动作，而是与持续评估绑定的可逆措施。论文的论证停留在法律原则层面，未涉及具体系统的实现方式，也未给出审查频率或技术标准；其结论建立在假设中的 AI 自然人地位之上，而非对现有系统的判断。
为什么值得看
把 AI 权利与关闭开关的冲突放进法律框架讨论，为 AI 安全治理提供了一条不同于禁令的思路。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。