微软发布第三代自研AI芯片Maia 300,2027年投产

模型AI 评分 88/100The Verge待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

微软发布第三代自研AI芯片Maia 300,定位为微软产品与服务的“主要AI推理系统”。该芯片采用新chiplet架构,基于台积电N2P工艺,将计算、内存控制器与I/O功能分离。微软云业务执行副总裁Scott Guthrie称,Maia 300每兆瓦token数比主流GPU系统高40%,在96加速器配置下机架级token吞吐量可达Maia 200的7倍。Maia 300将于2027年开始投入生产,微软计划从2027年起将Azure Maia系列扩展至多吉瓦部署。Maia 200已于今年1月发布,目前运行在Copilot、GitHub Copilot、Microsoft Foundry及微软自有AI模型等生产负载上。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

第三代自研芯片登场

微软对外公布其第三代自研人工智能芯片,命名为 Maia 300。按照微软的说法,这款芯片的定位是成为微软各项产品与服务所依赖的主要人工智能推理系统。与上一代相比,它在云端运行人工智能负载时的成本与效率都有改善,同时更能应对当下流行的推理类模型以及智能体任务。微软云业务部门执行副总裁 Scott Guthrie 表示,Maia 300 从设计之初就把能效放在核心位置,其目标是让微软很快可以主要依靠自家芯片,而不再主要依赖 Nvidia 与 AMD 提供的产品。这款芯片计划在 2027 年开始进入生产环境部署。

能效与整机架吞吐

在能效方面,Scott Guthrie 给出的说法是,Maia 300 每兆瓦可产出的 token 数量,相比当前主流的基于 GPU 的系统更高。在由 96 个加速器组成的完整配置下,它所能达到的机架级 token 吞吐量,可以达到 Maia 200 的数倍。微软还计划从 2027 年起把 Azure 旗下的 Maia 系列扩展到多吉瓦级别的部署规模,使 Maia 成为微软产品与服务的主要人工智能推理系统。这些表述指向同一个方向:微软希望在推理这一环节上,把算力供给的重心逐步从外部采购的 GPU 转向自研芯片。

上一代已在跑生产

Maia 300 是 Maia 200 的后续产品,而 Maia 200 的发布时间并不久远。目前 Maia 200 已经在微软内部的多项生产级人工智能负载上运行,涉及 Microsoft Copilot、GitHub Copilot、Microsoft Foundry 以及微软自研的人工智能模型。Scott Guthrie 称,以人工智能服务的真实世界指标衡量,Maia 200 是微软机群中表现最好的人工智能基础设施。他同时说明,Maia 300 是一套完整的人工智能系统,针对当下新出现的负载类型而设计,包括长上下文推理、对延迟敏感的对话式体验,以及需要持续多步执行的智能体任务。

小芯片与制程选择

为了拿到这些关键的能效收益,微软在 Maia 300 上采用了新的 chiplet 架构,并基于 TSMC 的 N2P 制程节点打造。这一代架构把计算、内存控制器与输入输出这三类功能拆分开来。按照材料中的说明,这样做可以增加专门用于计算性能的硅面积,同时让每一类功能各自选用最适合它的技术。对于关注云端人工智能算力供给的读者来说,这意味着微软在推理芯片上继续走自研路线,并且把能效与整机架吞吐作为衡量进展的主要标尺;至于实际部署节奏与最终表现,则要等到 2027 年进入生产环境后才能看到。

为什么值得看

微软自研推理芯片进入第三代,明确2027年多吉瓦部署,直接影响云上AI算力成本与GPU采购格局。

MicrosoftGPU芯片

信源1 家

  1. [1]The VergeMicrosoft’s new AI chip makes it less reliant on Nvidia’s GPUs

关键事实

  • Maia 300是微软第三代自研AI芯片,定位为微软产品与服务的“主要AI推理系统”。[1]

  • Maia 300采用新chiplet架构,基于台积电N2P工艺,将计算、内存控制器与I/O功能分离。[1]

  • 微软称Maia 300每兆瓦token数比主流GPU系统高40%,96加速器配置下机架级token吞吐量可达Maia 200的7倍。[1]

  • Maia 300将于2027年开始投入生产,微软计划从2027年起将Azure Maia系列扩展至多吉瓦部署。[1]

  • Maia 200于今年1月发布,已运行在Copilot、GitHub Copilot、Microsoft Foundry及微软自有AI模型等生产负载上。[1]

相关 · 模型

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。