AI 圈大事记

Anthropic CEO 提出放缓 AI 发展三步计划

观点AI 评分 85/100TechCrunch 等 2 家待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

Anthropic CEO Dario Amodei 提出通过“控制前沿”来减缓 AI 发展速度的三步计划。第一步是单方面向第三方评估机构开放模型访问权限;第二步是联合行业与政府建立通用安全标准及进度限制;第三步是争取威权政府采纳全球安全标准,同时限制其获取高性能芯片以维持技术领先。其担忧源于递归自我改进可能带来的失控风险。

为什么值得看

头部安全公司首次明确提出减缓 AI 发展的具体执行路径与地缘政治考量。

Anthropic蒸馏安全芯片

信源2

  1. [1]TechCrunchAnthropic CEO outlines plan to ‘pace the frontier’
  2. [2]The VergeAnthropic CEO says it’s time to pump the brakes on AI

关键事实

  • Amodei 提出包含单方面开放评估、行业建立标准、全球协调在内的三步计划。[2]

  • Anthropic 将向 METR 等第三方评估机构开放模型访问权限。[2]

  • 计划主张限制高性能芯片出口及防止模型蒸馏以维持技术领先。[2]

  • 担忧源于递归自我改进(RSI)可能导致系统能力加速超越人类控制。[2]

相关 · 观点

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。