Azure Maia icon

Azure Maia

Azure Maia 是 Microsoft 面向 Azure AI 的专用基础设施,支持 Microsoft 产品与服务的大规模推理。Maia 200 已投入生产,Maia 300 面向长上下文、对话式及多步骤智能体工作负载,计划于 2027 年部署。

Azure Maia

Azure Maia AI 基础设施

Azure Maia 是 Microsoft 面向 Azure AI 的多代专用 AI 基础设施系统,用于在 Microsoft 产品与服务中运行推理工作负载。Maia 200 已投入生产,支持 Microsoft Copilot 等工作负载,同时供 Microsoft 的 MAI 团队用于模型开发与评估。该系统运行 OpenAI 模型、Microsoft MAI 模型以及领先的开源模型系列。

下一代 Azure Maia 300 面向长上下文推理、对延迟敏感的对话式交互以及持续运行的多步骤智能体任务。Microsoft 计划于 2027 年开始 Maia 300 的生产部署,并从当年起将 Azure Maia 系列扩展到多吉瓦部署规模。其设计重点是在云规模下提升内存带宽、数据移动、网络连接和能效。

Microsoft 报告称,在 Teams、Copilot 和 Cowork 体验中的内置 AI 功能上,Maia 200 每瓦可处理的 token 数量最高达到领先 GPU 基础设施的 1.7 倍。对于 Maia 300,Microsoft 预计其每兆瓦可处理的 token 数量比领先的基于 GPU 的系统高 40%,并且在完整的 96 加速器配置下,机架级 token 吞吐量最高可达 Maia 200 的 7 倍。这些数据是 Microsoft 根据所引用公告报告的结果和预期。

主要功能

专注于数据流的推理

Maia 300 采用软件定义的数据流架构,并借助 AI 优化内核,以改善局部性,减少计算、内存和网络资源之间的数据移动。

高带宽内存

八组 HBM4 堆栈在 950 瓦 TDP 下提供 18.0 TB/s 的峰值内存带宽,支持大型模型和长上下文工作负载。

多芯粒设计

计算、内存控制器和 I/O 功能被分离到不同的芯粒中,其中计算芯粒采用 TSMC 的 N2P 工艺节点制造。

高效执行模型

支持包括增强型 MXFP4 在内的低精度格式,可降低计算和 KV-cache 存储所需的内存及带宽。

扩展网络

高带宽加速器互连和定制 AI 传输采用基于 Ethernet 的网络,将数据流拓扑从机架扩展到数据中心规模。

机架级容量

96 个加速器的机架配置提供 27.6 TB HBM 容量和 1.7 PB/s 的聚合 HBM 带宽,功耗范围为 167 千瓦。

已支持和计划支持的工作负载

  • Microsoft 产品推理

    Maia 200 正在 Microsoft 的生产环境中为 Microsoft Copilot 以及 Teams、Copilot 和 Cowork 体验中的内置 AI 功能提供服务。

  • 模型开发与数据生成

    MAI 团队在开发下一代 Microsoft 模型时,使用 Maia 200 进行推理和数据生成。

  • 智能体编程辅助

    Maia 旨在通过多步骤智能体工作负载帮助 GitHub 更高效地提供编程体验;GitHub Copilot 支持被列为计划中的工作负载。

  • 通过 Microsoft Foundry 提供模型服务

    预计 Microsoft Foundry 将使用 Maia,在不同架构和部署环境中提供云规模的模型服务。

  • 临床工作流辅助

    Maia 旨在为 Dragon Copilot 支持对延迟敏感的交互,帮助扩展工作流并减轻临床医生的行政负担。

Pros and Cons

Pros

  • 专为推理工作负载设计,包括长上下文和智能体应用。
  • 在 Maia 200 生产环境中支持 OpenAI、Microsoft MAI 以及领先的开源模型系列。
  • 提供高内存带宽和面向大型模型及同时进行的 AI 交互而设计的机架级架构。
  • Microsoft 报告称,Maia 200 在部分内置 AI 工作负载中提升了每瓦 token 性能。

Cons

  • 据来源,Maia 300 要到 2027 年才计划部署到生产环境。
  • 公告未提供公开定价、面向一般客户的可用性、订购详情或部署要求。
  • 详细性能数据是 Microsoft 提供的系统级声明,可能并不代表每种模型或工作负载。

FAQ

Azure Maia 200 和 Maia 300 的部署状态如何?

Azure Maia 200 已经为 Microsoft 的生产工作负载提供服务,包括 Microsoft Copilot。来源称,GitHub Copilot 和 Microsoft Foundry 预计将在 2026 年底前跟进;Maia 300 计划于 2027 年部署到生产环境。

Azure Maia 支持哪些模型?

Maia 200 在 Microsoft 的工作负载中运行 OpenAI 模型、Microsoft 的 MAI 模型以及领先的开源模型系列。来源未提供完整的兼容性列表或面向客户的模型接入流程。

Maia 300 为哪些工作负载而设计?

Maia 300 面向长上下文推理、对延迟敏感的对话式体验以及持续运行的多步骤智能体任务,其架构优先考虑推理,适用于内存密集型和解码密集型工作负载。

组织能否直接购买或部署 Azure Maia?

来源将 Maia 描述为 Microsoft 产品与服务使用的基础设施,并表示计划支持 Microsoft Foundry。来源未说明面向一般客户的访问权限、订购方式、定价或部署步骤。

Quick Facts

类别
AI 基础设施
平台
Microsoft Azure
主要工作负载
云规模 AI 推理
当前一代
Azure Maia 200
下一代
Azure Maia 300;计划于 2027 年部署到生产环境
来源域名
blogs.microsoft.com