Azure Maia icon

Azure Maia

Azure Maia 是 Microsoft 專為 Azure AI 打造的大規模推論基礎架構,Maia 200 已投入生產,Maia 300 將支援長上下文、對話與多步驟代理式工作負載,預計 2027 年部署。

Azure Maia

Azure Maia AI 基礎架構

Azure Maia 是 Microsoft 新一代專用 AI 基礎架構系統,用於在 Microsoft 產品與服務中執行推論工作負載。Maia 200 已投入生產,支援 Microsoft Copilot 等工作負載,同時供 Microsoft 的 MAI 團隊用於模型開發與評估。此系統可執行 OpenAI 模型、Microsoft MAI 模型與領先的開放原始碼模型系列。

下一代 Azure Maia 300 專為長上下文推理、對延遲敏感的對話互動,以及持續執行的多步驟代理式工作設計。Microsoft 計畫於 2027 年開始 Maia 300 的生產部署,並從該年起將 Azure Maia 系列擴展至多吉瓦規模的部署。其設計著重於雲端規模下的記憶體頻寬、資料移動、網路與能源效率。

Microsoft 表示,在 Teams、Copilot 與 Cowork 體驗中的內建 AI 功能上,Maia 200 每瓦可處理的 token 數量最高比領先的 GPU 基礎架構多 1.7 倍。對於 Maia 300,Microsoft 預期每百萬瓦可處理的 token 數量比領先的 GPU 系統多 40%,並在完整的 96 個加速器配置下,提供最高達 Maia 200 7 倍的機架級 token 吞吐量。這些數據是 Microsoft 根據所引用公告所報告的結果與預期。

主要功能

以資料流為核心的推論

Maia 300 採用軟體定義的資料流架構與 AI 輔助的核心最佳化技術,以改善區域性,並減少計算、記憶體與網路資源之間的資料移動。

高頻寬記憶體

八組 HBM4 堆疊在 950 瓦 TDP 內提供 18.0 TB/s 的峰值記憶體頻寬,支援大型模型與長上下文工作負載。

多晶粒設計

計算、記憶體控制器與 I/O 功能分離至不同 chiplet,其中計算 chiplet 採用 TSMC 的 N2P 製程節點打造。

高效模型執行

支援包括增強版 MXFP4 在內的低精度格式,可降低計算與 KV-cache 儲存所需的記憶體及頻寬。

擴展式網路

高頻寬加速器互連與自訂 AI 傳輸採用以 Ethernet 為基礎的網路,將資料流拓撲從機架延伸至資料中心規模。

機架級容量

96 個加速器的機架配置提供 27.6 TB HBM 容量與 1.7 PB/s 聚合 HBM 頻寬,功耗範圍為 167 千瓦。

支援與規劃中的工作負載

  • Microsoft 產品推論

    Maia 200 正在 Microsoft 的生產環境中為 Microsoft Copilot,以及 Teams、Copilot 與 Cowork 體驗中的內建 AI 功能提供服務。

  • 模型開發與資料生成

    MAI 團隊在開發新一代 Microsoft 模型時,使用 Maia 200 進行推論與資料生成。

  • 代理式程式碼協助

    Maia 的設計目標是透過多步驟代理式工作負載,協助 GitHub 更有效率地提供程式碼體驗;GitHub Copilot 支援被列為規劃中的工作負載。

  • 透過 Microsoft Foundry 提供模型服務

    預計 Microsoft Foundry 將使用 Maia,在不同架構與部署環境中提供雲端規模的模型服務。

  • 臨床工作流程協助

    Maia 的設計目標是支援 Dragon Copilot 對延遲敏感的互動,協助擴展工作流程並減輕臨床人員的行政負擔。

Pros and Cons

Pros

  • 專為推論工作負載設計,包括長上下文與代理式應用程式。
  • 在 Maia 200 生產環境中支援 OpenAI、Microsoft MAI 與領先的開放原始碼模型系列。
  • 提供高記憶體頻寬與機架級架構,旨在支援大型模型及同時進行的 AI 互動。
  • Microsoft 表示,Maia 200 在選定的內建 AI 工作負載上改善了每瓦 token 處理效能。

Cons

  • 根據來源,Maia 300 要到 2027 年才計畫投入生產部署。
  • 公告未提供公開定價、一般客戶可用性、訂購詳細資訊或部署需求。
  • 詳細的效能數據是 Microsoft 提出的系統層級聲明,可能不代表每個模型或工作負載。

FAQ

Azure Maia 200 和 Maia 300 的部署狀態為何?

Azure Maia 200 已為 Microsoft 生產工作負載提供服務,包括 Microsoft Copilot。來源指出,GitHub Copilot 與 Microsoft Foundry 預計將於 2026 年底前陸續支援;Maia 300 計畫於 2027 年投入生產部署。

Azure Maia 支援哪些模型?

Maia 200 在 Microsoft 工作負載中執行 OpenAI 模型、Microsoft 的 MAI 模型與領先的開放原始碼模型系列。來源未提供完整的相容性清單或面向客戶的模型導入流程。

Maia 300 是為哪些工作負載設計的?

Maia 300 專為長上下文推理、對延遲敏感的對話體驗,以及持續執行的多步驟代理式工作設計,採用推論優先的架構,適用於記憶體密集型與解碼密集型工作負載。

組織可以直接購買或部署 Azure Maia 嗎?

來源將 Maia 描述為 Microsoft 產品與服務的基礎架構,並指出 Microsoft Foundry 計畫支援 Maia。來源未說明一般客戶存取、訂購、定價或部署步驟。

Quick Facts

類別
AI 基礎架構
平台
Microsoft Azure
主要工作負載
雲端規模 AI 推論
目前世代
Azure Maia 200
下一世代
Azure Maia 300;預計於 2027 年投入生產部署
來源網域
blogs.microsoft.com