微軟和亞馬遜網路服務 (AWS) 最新財報傳遞出一個共同訊號：基於 Arm 架構的 CPU 已成為代理式 AI 的核心基礎設施。

近期微軟 (Microsoft) 和亞馬遜 (Amazon) 的兩場財報電話會議共同印證了一個趨勢：基於 Arm 架構的客製化晶片已經從過去的技術試驗，轉變為超大規模雲端基礎設施的核心支柱。

微軟執行長納德拉 (Satya Nadella) 用一句話說明這場架構變革：「在運行 AI 代理時，CPU 與 GPU 同樣重要。」隨後他給出了有力的證據：微軟預計，到 (2026年) 七月底搭載 Azure Cobalt 200 機櫃，將部署在全球超過 25 個資料中心。

時隔一日，Amazon 公布其晶片業務 (包括 Graviton、Trainium 與 Nitro) 的年化營收規模已突破 250 億美元，年增幅達三位數。Graviton 的營收承諾金額較前一季接近成長三倍，而 Graviton5 的採用速度也幾乎是 Graviton4 當時的兩倍。

雖然產品不同、雲端平台不同，但方向一致：全球領先的超大規模雲端服務商，正在將基於 Arm 架構的 CPU 打造成 AI 基礎設施的核心，並針對各自的工作負載需求和經濟效益目標進行最佳化。

AI 代理需要的不只是模型算力

生成式 AI 第一波浪潮的衡量標準是模型規模、AI 加速器的供給能力，以及詞元 (Token) 的生成能力。而代理式 AI 的運行方式則更加複雜，AI 代理需要檢索資料、呼叫工具、運行程式碼、執行策略，並對結果進行驗證，所涉及的是更大範疇的任務。

GPU 仍負責大部分的模型訓練與推論 token 生成，但其周邊的各項工作則由 CPU 負責，包括路由請求、準備資料、協調工具運作、管理記憶體與儲存資源，以及確保數千個並行互動能持續穩定運作。

納德拉在財報電話會議上表示，基於 Azure Cobalt 的虛擬機器 (VM) 產品組合目前已支援微軟自有服務，以及 Adobe、Am、Elastic、OpenAI、Sprinklr 和 TomTom 等客戶的工作負載，顯示其已投入實際生產環境使用。

亞馬遜網路服務 (AWS) 則從另一個角度印證相同趨勢。Graviton5 是專為代理式 AI 工作負載而設計，針對即時推論、程式碼生成和多步驟編排等場景進行最佳化。基於 Graviton5 的 M9g 執行個體與採用 Graviton4 的 M8g 執行個體相比，運算效能最高提升 25%，機器學習推論速度最高提升 35%。

兩家超大規模雲端服務商，以不同路徑邁向相同規模

Cobalt 與 Graviton 的成功證明，Arm 架構讓超大規模雲端服務商，能夠針對其自身大規模基礎設施要求客製晶片，同時共用同一架構和軟體。這有助於加快商業化時程，實現商業回報。微軟於 2025 年十一月發佈 Cobalt 200，2026 年六月開放虛擬機器產品的預覽存取。不到兩個月，搭載該晶片的機櫃方案已部署至全球超過 25 個資料中心，進展十分迅速。

Cobalt 200 基於 Arm Neoverse CSS V3 建構，是微軟第二代 Arm 架構雲端 CPU——相較前代產品，效能最高提升 50%，擴展到 128 個 vCPU，專為雲端原生、資料密集型以及AI 代理工作負載設計。

亞馬遜網路服務已推出第五代 Graviton 產品。搭載 Graviton5 的 M9g 和 M9gd 執行個體已於今年六月正式商用，運算效能較 Graviton4 最高提升 25%。亞馬遜網路服務表示，就整個 Graviton 產品線而言，其性價比較同類執行個體高出 30% 至 40%。

真正值得關注的是 Graviton 產品的客戶採用率：亞馬遜網路服務排名前 1000 的 EC2 客戶中，98% 都在使用 Graviton，超過十二萬個客戶基於 Graviton 建構服務。連續第三年，亞馬遜網路服務新增 CPU 容量中超過一半採用了 Graviton。

效率釋放算力，算力創造營收

微軟將基礎設施效率與業績成長直接連動。當季 Azure 營收與去年同期成長 43%，而市場需求依然超過現有供給能力。微軟首席財務長胡德 (Amy Hood) 表示，CPU 和 GPU 基礎設施營運效率的持續提升，以及基礎設施擴展和啟用速度的加快，釋放了更多可用算力資源，而這些新增算力幾乎在上線後便被市場需求迅速消化並轉化為收入。

對於超大規模資料中心而言，CPU 效率提升的意義遠不只是降低電費支出。當市場需求超過供給時，更高效率的基礎設施能夠在相同機櫃規模和相同電力預算下釋放更多可用算力，而這些算力最終會轉化為營收。

微軟並未單獨揭露 Cobalt 200 相較於其他整體基礎設施效率提升所帶來的具體貢獻。不過，其背後的邏輯至今已相當明確：效能、資源利用率與電源效率，既是提升容量的槓桿，也是推動成長的槓桿。

亞馬遜網路服務提供了另一項佐證資料。250 億美元的年化營收涵蓋整個晶片業務，而不僅僅是 Graviton。然而採購承諾的快速成長以及 Graviton5 的加速採用表明，客製化 CPU 產品線正成為這一規模龐大且高速成長的晶片業務的重要支柱。同時，其顯著的性價比優勢，也為客戶將更多工作負載遷移至 Graviton 平台提供了充分理由。

整體產業面臨的壓力持續增加。國際能源署 (IEA) 資料顯示，針對 AI 的資料中心用電量在 2025 年成長了 50%。研究機構 Dell'Oro Group 統計顯示，2026 年第一季，亞馬遜、Google、Meta 和微軟的資料中心資本支出與去年同期相比成長 78%。相較於一年前，如今每一瓦電力、每一個機櫃都變得更加重要。CPU 的能源效率已不再是技術參數中的次要指標，而是超大規模雲端服務商釋放有限算力、提升現有基礎設施利用率，並獲得更高回報的關鍵方法。

同時，市場需求正突破 GPU 單一範疇。IDC 預計，2026 年全球 AI 基礎設施支出將達到 4,970 億美元，較去年同期成長約 56%，且需求不再侷限於 GPU 系統，還包括編排平台、資料流水線以及基於 CPU 的推論叢集等領域。

從超大規模運算看 Arm 更廣泛的發展趨勢

微軟與亞馬遜網路服務雖都已是當前的焦點，但這其實還只是更廣泛架構轉移的一部分。

Google Cloud 推出的 Axion 是基於 Arm 架構客製化的 CPU 產品系列。Axion 不僅做為支撐其雲端基礎設施的通用 CPU，還在最新一代 TPU 系統中擔任 AI 主節點 CPU，負責提供編排、網路和基礎設施服務，支撐超大規模 AI 系統穩定運行。

NVIDIA 在 AI 工廠方案也做出了相同的架構選擇。Vera 是 NVIDIA 最新推出的基於 Arm 架構的 CPU，將做為 Rubin 等次世代 AI 系統的運算基礎。在這些機櫃級部署的系統中，CPU 負責協調記憶體、網路和加速器資源。

綜合來看，Microsoft Cobalt、Amazon Graviton、Google Axion 以及 NVIDIA Vera 都指出同一個結論：隨著 AI 基礎設施從模型推論階段邁向自主AI 代理執行階段，基於 Arm 的 CPU 正逐漸成為現代 AI 資料中心中負責協調整體運作的共同運算基礎。

關於 Arm

Arm 是 AI 時代的基礎平台，其兼具卓越效能與節能優勢的運算能力，觸及全球所有連網使用者。為因應對運算永無止境的需求，Arm 平台橫跨核心 IP、先進運算子系統及專用晶片，使國際頂尖的科技公司能靈活設計、打造並大規模部署 AI 應用。透過與規模最大的運算生態系及業界超過 2,200 萬名開發者的共同努力，我們正於 Arm 平台上建構 AI 的未來。

所有資訊都「依目前情況」提供，且並不帶保證或代表性。此文件可以自由分享，但不得修改且必須註明出處。Arm 是 Arm Limited（或其子公司與附屬機構）的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2026 Arm Limited.