奥尔特曼称内存应集中在数据中心而非个人电脑

观点AI 评分 72/100The Verge
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

在 Cheeky Pint 播客访谈中,OpenAI CEO 萨姆·奥尔特曼回应内存供应紧张时表示,把全球有限的 DRAM 分散存放在个人电脑里、且只有约 5% 的时间在用,从全球分配角度看「相当糟糕」。他认为在供应受限的环境下,云端的高利用率才是合理方向,而许多人支持本地推理的直觉与此相反。三星与 SK 海力士已与云服务商及 Stargate 等项目签订长期协议,锁定了未来数年的大部分内存产能。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

奥尔特曼的原话逻辑

奥尔特曼是在 Cheeky Pint 播客上作出上述表态的,话题由供应链短缺引出。他提到,不少人期待本地推理,认为开源模型加上个人电脑就能跑起来,数据中心里的大量设备因此不再必要。他的反驳落在资源分配上:全球 DRAM 供给有限,如果这些内存散落在各人电脑中、大部分时间闲置,整体效率就很低。他给出的替代思路是让云端保持高利用率,并称许多人的直觉恰好与这一判断相反。

谁在占用内存产能

材料指出,三星与 SK 海力士已同云服务运营商以及 Stargate 一类项目签下长期协议,未来数年全球内存产出的大部分已被这些协议预定。这些买方愿意为芯片支付巨额资金,其后果传导到消费端,就是笔记本、手机等设备正在变得更贵。奥尔特曼所说的「数据中心优先」,对应的正是这种由长期协议与采购规模构成的现实格局。

对本地推理意味着什么

按材料呈现的逻辑,本地推理的可行性不只取决于模型能否在个人设备上运行,还取决于内存这一受限资源如何在全球范围内分配。奥尔特曼并未否认开源模型或本地运行的技术可能,他的论点集中在供给紧张时的配置效率。对关注端侧部署的开发者而言,这意味着短期内内存价格与供给仍会受云端大额采购的挤压,设备成本压力可能持续。

为什么值得看

头部 AI 公司掌门人直接解释内存采购逻辑,关系到本地推理路线与硬件成本走向。

OpenAI数据中心芯片

信源1 家

  1. [1]The VergeSam Altman says it’s better for RAM to be in a data center than on your desk

关键事实

  • 奥尔特曼在 Cheeky Pint 播客中称,把 DRAM 放在个人电脑里且仅约 5% 时间使用,从全球分配角度看相当糟糕[1]

  • 他认为供应受限时应追求云端最大利用率,而许多人对本地推理的直觉与此相反[1]

  • 三星与 SK 海力士已与云服务运营商及 Stargate 等项目签订长期协议,锁定未来数年大部分内存产出[1]

  • 内存厂商为芯片投入的巨额资金,正推高笔记本、手机等设备的价格[1]

相关 · 观点

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。