微软于 10 月 12 日宣布 Maia 300，并概述了从 2027 年开始将其 Azure Maia 基础设施扩展至多吉瓦级部署的计划。该公司希望 Maia 成为其产品和服务的主要推理系统。Maia 300 的生产部署计划于明年开始；此次公告并不意味着这些部署已经发生。
现有的 Maia 200 一代已在为生产工作负载提供服务，包括 Microsoft Copilot。微软表示，该平台支持 OpenAI 模型、其自有的 MAI 模型以及开源模型系列，GitHub Copilot 和 Microsoft Foundry 预计将在今年年底前跟进。
Maia 300 面向长上下文推理、内存密集型推理和持续性智能体任务。微软预计其每兆瓦可提供的 token 数将比领先的基于 GPU 的系统多 40%。该数字是公司的预测，公告并未证明每种模型或工作负载都能获得同等收益。
微软的技术描述强调在数据移动、内存和网络方面的协同改进。该系统采用小芯片（chiplet）架构，其完整机架配置在 167 千瓦功耗范围内包含 96 个加速器。
从编辑视角来看，此次公告说明了推理基础设施为何正在成为一个核心竞争问题。反复生成响应或执行多步骤任务的服务需要可预测的容量和可控的运营成本。提高硬件效率有助于实现这一目标，但实际效果取决于系统上运行的软件、模型和工作负载。
下一个里程碑是 2027 年的生产部署。这些部署提供的证据将有助于确定微软预计的效率提升如何转化为服务容量和运营经济效益。