為何 CPU 是 AI 基礎設施的核心?Futurum 最新報告揭示五大關鍵洞察
AI 並非單一工作負載、也不存在單一理想的基礎架構,而是一組多元且複雜的工作負載,需要透過具整體一致性的系統層級策略,才能在效率與規模上實現最佳效能。而在這一策略中,CPU 扮演著核心角色,它做為系統的智慧層,統籌協調雲端、資料中心、邊緣乃至實體 AI 系統中的各類運算資源。
這些是 Futurum 最新報告《Arm 處於 AI 和資料中心變革的中心》的核心結論,該報告深入剖析了 AI 當前面臨的關鍵轉捩點,並闡明 Arm 在其中的核心角色。以下是從該報告萃取出的五個關鍵要點。
AI 是一項系統挑戰
儘管 AI 加速器常被熱烈討論,但 Futurum 的報告指出:真正決定 AI 規模化效能表現的,是整個系統的智慧編排能力。無論是協調異質運算、管理資料流程,還是在功耗和成本限制下維持穩定效能,CPU 都在其中發揮著核心作用。正如報告中指出的,產業關注焦點正從「能部署多少原始算力」轉向「如何智慧地在不同環境之間編排算力」。
CPU 是支撐 AI 運行的資料通道與核心樞紐
CPU 正日益扮演 AI 的「主節點(head node)」角色——也就是系統的大腦——負責在整個系統中進行協調與調度,從資料輸送與記憶體管理,到安全控管與執行流程的整體協同運作。報告指出,在現代 AI 流程中,每個加速器往往需要更多 CPU 資源協同工作,而非減少 CPU 資源數量。事實上,Arm 架構的 CPU 已廣泛嵌入到 SmartNIC、DPU、NPU 以及各類網路設備中,用於高效率地卸載並管理 AI 工作負載。歸根到底,CPU 不是 AI 系統的週邊元件, 而是極為重要的基礎設施。
每瓦效能讓 CPU 成為 AI 經濟模型中的核心支柱
隨著 AI 日益受到能耗供給及功耗上限的限制,「每瓦效能」已成為衡量成本效益與永續發展的決定性指標。Futurum 旗下 Signal65 的獨立基準測試表明,Amazon Graviton4 相較於同級 x86 CPU 實現雙位數的效能提升,同時在總擁有成本 (TCO) 上保持顯著優勢。此一結果凸顯,基於 Arm 架構的 CPU 不僅在能效層面持續領先,也已在絕對效能上具備強勁競爭力。在能源限制日益嚴峻的背景下,能夠實現單位功耗下最大吞吐量的 CPU,正成為支撐 AI 規模化發展的關鍵戰略資源。
超大規模雲端服務提供者採用 Arm 架構 CPU 做為標準化部署平台,而非試驗性探索
報告明確指出,超大規模雲端服務提供者對 Arm 架構 CPU 的部署已不再處於探索階段。亞馬遜網路服務 (AWS)、微軟、Google 及 NVIDIA 正將 Arm 架構 CPU 廣泛部署於雲端基礎設施、客製化晶片及融合型 AI 資料中心中。如今,出貨到主要超大規模雲端服務提供者的算力中,有近 50% 是基於 Arm 架構。同時,根據 Arm 最新一季財報,其來自於資料中心客戶的權利金營收已實現翻倍成長,且主流的超大規模雲端服務提供者所使用的核心數也持續攀升。整體來看,基礎設施正在向 Arm 架構實現長期、策略性的轉型。
推論運算、邊緣運算與實體 AI 的發展讓 CPU 的核心戰略地位更加凸顯
隨著 AI 重心從訓練轉向推論,智慧化不斷向邊緣運算及實體世界延伸,CPU 的核心戰略地位愈發凸顯。報告強調,邊緣 AI、機器人、汽車系統及自主設備依賴的是即時、系統級的運算能力,而非單純的模型推論。特別是在邊緣 AI 場景中,系統將更加依賴 CPU 以實現即時運算,而不僅僅是執行 AI 模型。同時,當今絕大多數機器人及實體 AI 系統在感知、控制及整體系統協調上,均依賴基於 Arm 架構的處理器。
為何意義重大
綜合來看,Futurum 的報告清晰傳遞了一個訊號:AI 基礎設施正在經歷結構性變革。未來的贏家,將不再僅由單一突破性加速器所決定,而在於誰能建構出在功耗、成本與擴展性限制下依然能高效率協同的完整系統。而 CPU 及其所驅動的系統智慧,正是未來發展的核心。
想深入瞭解上述結論背後的資料、基準測試結果與架構分析,請下載 Futurum 完整報告《Arm 處於 AI 和資料中心變革的中心》。
關於 Arm
Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,200 萬名軟體開發者的共同努力,我們正在 Arm 平台上建構 AI 的未來。
所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2026 Arm Limited.