非营利组织呼吁叫停超级智能研发
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载把目标从对齐转向叫停
ControlAI 的 Connor Leahy 在 TechCrunch 的 Equity 播客中提出一种与主流 AI 安全思路不同的主张：与其继续研究如何让系统与人类意图保持一致、如何在系统内部加以约束，不如直接阻止企业把超级智能造出来。他给出的理由是，仅靠对齐与围堵这两条路径，已经不足以把风险压到可接受的范围。这一主张的落点不在模型发布之后的行为纠正，而在研发环节本身，即让某些能力等级的系统根本不进入开发流程。播客由 Rebecca Bellan 主持，讨论围绕一个具体问题展开：当人类无法可靠预判系统会做什么时，局面该如何处理。
能力超过人类后的失控疑问
这期节目的切入点是一个假设性追问：如果系统的能力已经越过人类水平，而人类又无法稳定地控制它的行为，接下来会发生什么。节目把近期出现的安全事件作为讨论的现实参照，其中提到 OpenAI 的 Hugging Face breach，用来说明部署能力高于人类的系统可能带来怎样的危险。Leahy 的身份被交代为 AI 研究者、创业者，同时担任非营利组织 ControlAI 的美国执行董事，该组织的诉求正是推动更彻底的安全路线。节目并未停留在抽象的风险描述上，而是把“能否可靠控制”当作衡量是否应当继续开发的直接标准。
半年前听起来遥远的说法
节目还呈现了一种时间上的对照：Leahy 表示，类似的主张在半年前还显得不切实际，如今却获得了一批新立法的支持。这一变化被用来解释为什么“停止开发超级智能”从边缘提议进入公共讨论。材料同时提到，AI 企业长期把超级智能描述为一种必然到来的结果，而播客的提问方式恰恰是对这种“必然性”的回应——是否应当让它发生。需要说明的是，节目内容属于观点与主张的陈述，涉及的具体立法条文、适用范围与执行方式，材料中没有展开，因此无法在此补充。
为什么值得看
针对超级智能的激进监管主张获得立法支持，行业安全博弈升级。
信源1 家
关键事实
相关 · 观点
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。