前 Anthropic 员工称 AI 或致人类灭绝遭驳斥
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载一场关于恐惧的争论
Bryan Cantrill 对 Jacob Coxon 的一条推文作出回应。Coxon 曾是 Anthropic 的员工，他在推文中确认，许多 Anthropic 的研究者相信 AI 有可能在这个十年结束之前夺走所有人的性命。Cantrill 由此讲起自己年轻时犯下的错误：那些错误在技术背景较弱的同伴中引发了没有根据的恐慌，他以此提醒不要重蹈覆辙。他认为这类阴森的说法直接冲击人们最在意的部分，而 AI 的重要性又显而易见，因此它们进入主流视野并不奇怪，公众自然会追问：这究竟会怎么发生。
答案依赖含糊的外推
Cantrill 指出，对上述追问的回答总是依赖对未来含糊其辞的推演。他举例说，Coxon 提到“入侵关键基础设施”和“灭绝级生物武器”，却没有给出进一步说明。Cantrill 的质疑是：Coxon 既不是关键基础设施方面的专家，也不是生物武器方面的专家，同样也不是灭绝问题上的专家。他同时承认，不应指望公众理解大语言模型、关键基础设施、生物武器、灭绝生物学这些东西，这份说明的责任应当落在提出主张的人身上。
专家信誉与发声的分寸
Cantrill 说，他几十年前羞于启齿地学到的一课是：领域专家凭借自身的专业能力，实际上承载着公众的信任，因此不能滥用这份信任。在他看来，谨慎措辞是专家应尽的责任，在发出警报时更应做到最大程度的谨慎。他还提到，自己参与的那期 Oxide and Friends 节目中，Cantrill 谈到了对生物武器担忧的怀疑，相关想法可以从该期节目的 51 分 44 秒处听起。
生物武器说法留下的想象空间
在同一期节目的 57 分 04 秒处，Cantrill 表示，人们很容易在编造这类说法时被恐惧吞没，比如声称它能造出生物武器，可究竟怎么造？他呼吁让生物学家，或者有过生物武器相关经验的人来发表意见。他说，生物武器这件事之所以让他耿耿于怀，是因为它留下了太多想象空间，而人们会带着恐惧去填补这些空白。
为什么值得看
针对 AI 末日论的具体反驳，涉及专家责任与公众恐慌的讨论。
信源1 家
关键事实
相关 · 观点
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。