作者：Arm 雲端 AI 事業部產品解決方案副總裁 Dermot O’Driscoll

2025 年初，Arm 曾預測 Arm 架構將佔據近半數 於 2025 年出貨到領先雲端服務提供者的算力。

根據今年前三季的實際出貨資料，市場正朝向著此預測目標穩健邁進。這些搭載 Arm 架構的伺服器的意義遠不只於一個統計數字，更重要的是它們構成了融合型人工智慧 (AI) 資料中心這一新型基礎設施的運算核心。從雲端原生服務到最具挑戰性的 AI 工作負載，超大規模雲端服務提供者正逐步將基於 Arm 的客製化運算做為標準路徑，以此實現效能、功耗與規模的平衡。

近期發佈的 AWS Graviton5 正是此一新模式的典範。做為該系列的第五代產品，Graviton5 凝結了 Arm 架構多年積累的能源效率優勢，專為現代資料中心的需求打造，適用於從高密度 AI 推論到橫向擴展的雲端原生工作負載。Graviton 已連續三年在亞馬遜網路服務公司新增 CPU 算力部署中佔比超過半數；如今，在 Amazon EC2 排名前 1,000 的客戶中，已有 98% 在生產環境中採用 Graviton 系列處理器。

Graviton 也是亞馬遜網路服務公司自研晶片策略的關鍵一環，在全新推出的 Amazon Trainium3 UltraServers 中，亞馬遜網路服務公司的三款客製晶片均部署於統一的運算底座中。在該架構設計中，基於 Arm 架構的 AWS Graviton 和 AWS Nitro 分別負責通用 CPU 運算及高效能網路處理任務，為 AWS Trainium3 UltraServers 提供核心技術。

隨著 Arm 架構正逐步成為驅動 AI 時代核心平台的算力基礎，Graviton5 的推出成為產業變革的又一例證。

• Google Axion：搭載 Arm Neoverse 運算核心的 Axion 系列處理器，現已提供更多的雲端虛擬機器選項，為雲端和 AI 工作負載帶來前所未有的效能表現。
• Microsoft Cobalt 100 及全新發佈的 Cobalt 200：這兩款處理器專為 Microsoft Azure 的 AI 最佳化型資料中心的雲端原生工作負載打造，為微軟內部服務及 Azure 客戶提供算力支援。
• NVIDIA Grace Blackwell：將 Arm 架構的 CPU 與 NVIDIA 的 AI 加速器相結合，打造出迄今最先進的 AI 運算平台。

全球領先的超大規模雲端服務提供者、晶片製造商及系統整合商，早已跨越對客製化運算的探索期，正將其納入自身基礎設施戰略核心。Arm 平台正是實現這一產業融合趨勢可靠的技術基礎。

融合型 AI 資料中心的崛起

綜合來看，這些平台共同彰顯了資料中心的快速演進。AI 正在打破基礎設施內部的傳統邊界，將昔日由通用伺服器與設備構成的鬆散架構，演變為一套高度整合、針對 AI 最佳化的環境，實現運算、加速、網路、記憶體、儲存及軟體的協同設計與一體化運行。

在融合型 AI 資料中心中，效能和能源效率的提升來自於整個堆疊的協同作業，而非某個單一元件。Arm 提供連接全堆疊各層的通用架構，使雲端服務提供者在保持靈活性與效率的同時，能夠進行全域最佳化，以滿足現代大規模工作負載的嚴苛要求。

系統各層級對 AI 效能的貢獻各不相同，而 Arm 架構得以貫穿其中：

• CPU 為 AI 系統提供控制平面，包括協調調度、資料移轉、記憶體管理以及各類服務等，同時執行關鍵模型邏輯，將詞元 (token) 轉化為有效操作。
• 加速器可在模型運算最密集處提供高密度算力，協助訓練與推論在數千個節點上實現高效率地規模化部署。
• 智慧網卡 (SmartNIC)、DPU 及智慧型網路儲存系統可卸載包括安全防護、網路連接和資料存取在內的關鍵服務，並進行加速。不論是 AWS Nitro、NVIDIA BlueField ，還是英特爾的IPU，均可看出這些平台正逐漸採用 Arm 架構晶片進行建構，確保資料在 AI 運算的每個環節之間安全高效率地傳輸。

由此建構的基礎設施全面提升了每瓦智慧 (intelligence-per-watt)——單位能耗下能夠輸出的有效 AI 算力——在保持軟體相容性和生態系一致性的前提下，進一步加速創新進程。受惠於與 AWS (亞馬遜網路服務)、Google Cloud (Google 雲端運算服務)、Microsoft Azure 和 NVIDIA 等合作夥伴的深度協作，基於 Arm 架構的客製化運算方案不僅展現相當動能，更進入了加速發展階段。

亞馬遜網路服務公司資深副總裁 Peter DeSantis 出席 re:Invent 2025

Graviton5 與運算效能的全新轉捩點

Graviton5 配備 192 個核心，快取容量較上一代提升五倍，針對亞馬遜網路服務客戶的核心負載場景，可實現高達 25% 的效能躍升。這一提升既彰顯了客製化設計的變革性成效，同時也重新定義了雲端運算的經濟效益。當效能增速超越功耗和成本的增幅時，產業格局便會被改寫，而 Arm 生態系正引領此一關鍵轉捩點的到來。

此一發展態勢早已突破超大規模雲端服務的應用範疇。如今，企業端正在將同樣的客製化設計原則應用於 AI 推論、自動駕駛、邊緣運算、智慧型網路等多元化場景，而驅動這些應用場景的，正是同樣支撐著雲端服務的 Arm 架構。

展望未來：為所有人準備的運算基礎

在 Arm 平台上共築未來的，不只是全球企業巨頭。借助 Arm 全面設計 (Arm Total Design) 等生態系方案，憑藉 Arm Neoverse 運算子系統 (CSS) 平台，Arm 正在促成更廣泛的生態合作夥伴，以媲美超大規模雲端服務提供者的效率和速度來打造客製化晶片。同時， Arm 雲端遷移等專案也在為各種規模的企業降低 Arm 架構運算平台的部署門檻，協助其充分釋放效能和能源效率優勢。

隨著客製化運算逐步贏得市場認可，所有產業正在積極擁抱這一趨勢。而 Arm 做為此一變革的核心運算平台，正引領著未來的無限可能。

關於 Arm

Arm 是業界效能最高且最節能的運算平台，其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求，Arm 提供先進的解決方案，使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,200 萬名軟體開發者的共同努力，我們正在 Arm 平台上建構 AI 的未來。

所有資訊都「依目前情況」提供，且並不帶保證或代表性。此文件可以自由分享，但不得修改且必須註明出處。Arm 是 Arm Limited（或其子公司與附屬機構）的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2025 Arm Limited.