MIT科技评论：AI推理的存储开销被低估，或成预算盲区
观点AI 评分 62/100MIT Technology Review待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
MIT科技评论指出，企业在核算AI基础设施支出时往往只盯着算力，忽略了推理过程持续沉淀的存储成本。以零售商批量生成商品视频、保险公司用RAG流程处理理赔文档为例，算力成本可按每次生成或每次查询的单价预估，而存储成本会随每个视频、每份文档不断累积，任务结束后数据也不会消失。若把存储当作算力预算里的零头，12到18个月后这部分可能膨胀为项目总成本的显著比例，且往往在管理层决定是否扩容时才暴露。文章建议从架构入手，因为多数AI数据按体量沉淀在温、冷、归档层，而存储策略常只按热层高性能设计。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载被算力掩盖的存储账单
文章把视角放在企业AI预算的构成上。对CFO或CIO而言，AI基础设施支出通常被窄化为算力采购，加速器是显眼的资本开支科目。但模型在等待数据加载时空转，与因缺少GPU而空转，成本几乎一样。存储瓶颈在变成问题之前一直不显眼，它体现在运营成本和检索延迟上，而不是出现在加速器旁边的资本开支行里。这意味着预算表上看不见的部分，可能正在持续消耗资源。
两类业务的成本结构
文章用两个场景说明差异。零售商为商品目录批量生成AI视频，保险公司把理赔文档送进RAG流程以加快核保。两者的算力成本都是已知且可预算的量：按每次生成或每次查询计价，财务可以预测。存储成本则不同，它随每个视频、每份理赔文档的处理而叠加，因为任务结束后这些后端数据不会消失。把AI预算写成算力加一点存储零头的团队，可能在12到18个月后发现，这个零头已占项目总成本的相当比例，而时间点恰好落在管理层讨论是否扩容的节点上。
从架构层面应对
文章认为应对要从架构入手。存储策略往往围绕昂贵的热层性能设计，即为需要即时、频繁访问的数据服务；但按数据体量看，多数AI数据沉淀在热层之后的温层、冷层和归档层。成本压力正来自这种错配：为热层性能付费的架构，承载的却是体量最大、访问频率最低的那部分数据。文章没有给出具体产品或价格方案，只把问题定位在预算口径与存储分层设计上。
为什么值得看
把AI成本只算成算力会漏掉持续增长的存储账单，做预算和架构的人需要重新划分成本项。
RAG算力GPU
信源1 家
关键事实
相关 · 观点
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。