AI 圈大事记

多名AI研究员离职发声警示安全风险

观点AI 评分 85/100量子位待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

Google DeepMind前研究员Bilal Chughtai与Anthropic前研究员Jacob Coxon相继离职,公开表达对AI可能终结人类的担忧。Jacob指责OpenAI和Anthropic未负责任地行事,正加速冲向超级智能。Anthropic对齐负责人Evan Hubinger回应称,认同AI存在毁灭人类的可能,未来十年发生概率超10%,且尚未找到对齐解决方案。公司CEO Dario随后发文呼吁放缓前沿能力提升速度。

为什么值得看

一线核心研发人员对生存风险的公开表态与离职潮,揭示了行业内部对安全与速度失衡的深层焦虑。

OpenAIAnthropicGoogleDeepMind对齐

信源1

  1. [1]量子位“留给人类阻止AI的时间不多了”

关键事实

  • Anthropic对齐负责人估计未来十年AI杀死所有人的概率超过10%。[1]

  • Jacob Coxon指责OpenAI和Anthropic正一路冲向能够自我改进的超级智能。[1]

  • Dario发文呼吁放缓AI模型能力提升速度,为安全研究争取时间。[1]

  • Bilal Chughtai离职并坚信AI有可能终结人类,留给我们阻止的时间不多了。[1]

相关 · 观点

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。