AI 邁向規模化,CPU 價值再提升
隨著常時運作的代理式系統逐漸普及,超大規模雲端業者正擴展 CPU 部署,以最大化效能功耗比、機櫃效率與資本報酬率。
過去十年的大部分時間,資料中心的討論焦點多半圍繞在加速器上。隨著AI 訓練工作負載的爆炸式成長,GPU、TPU 等佔據了新聞頭條、投資者報告和基礎設施路線圖的核心位置。然而,隨著 AI 從模型實驗走向規模化產品、使用者導向的應用,並且逐步發展為隨時運行的代理式 (agent-based) 推論,超大規模資料中心內部正出現一項更為深層的轉變。
在這一波轉變之中,CPU 的角色正變得前所未有地關鍵——不再只是過去遺留下來的元件,而是負責協調運作與資料處理的核心引擎,使現代 AI 系統得以實現大規模運行。
這一轉變,恰好印證了 Arm 最近一季的財報中一個引人矚目的觀點:未來幾年內,Arm 的資料中心業務規模有望追平甚至超越智慧手機業務。對投資者而言,這不只是業績成長,更反映出超大規模雲端服務提供者在 AI 基礎設施的設計、部署與商業化路徑上正在發生結構性變化。也正因如此,CPU 的可擴展性、能源效率表現與系統整合能力變得空前地重要。
通往 Always-on 的智慧之路
早期的 AI 基礎設施圍繞持續、高強度的工作負載建構,包括大規模模型訓練和高吞吐推論。在這樣的環境下,加速器自然而然地佔據核心地位。但如今,這種模式已無法反映現實所需。
隨著現代 AI 應用在企業平台與針對使用者的產品中持續擴展,其型態也愈來愈偏向代理式。這類系統具備持續運作的特性,能夠進行規劃、推論、資訊檢索、協調各項行動,並與使用者及各類服務持續互動,同時在這些互動過程中不斷學習。
代理式 AI 系統不僅運行模型,還需要在資料庫、網路服務和應用層之間即時編排工作流程並處理資料。智慧代理不用休眠,它們會持續進行任務調度、上下文檢索、記憶體管理和行動協調。
具體而言,這包括:
- 持續的調度和協調
- 持久的記憶體存取(KV 快取、向量資料庫、上下文檢索)
- 每次模型調用前後的預處理與後處理
- 在異質元件之間建立安全、低延遲的控制路徑
而這些職責主要由 CPU 承擔。
代理型 AI 不僅提高了 CPU 的重要性,更改變了 CPU 的需求特性。
以往,CPU 僅在以加速器為核心的工作負載中承擔短暫編排任務;而如今,AI 系統更多時間處於 CPU 密集型運算狀態。這類工作負載需要大量高能源效率核心持續運行,且通常需要在固定功耗與成本限制下運行。
這並非純理論的推測。事實上,超大規模雲端服務提供者正在積極擴展 CPU 資源:
- 亞馬遜網路服務 (AWS) 的第五代 Graviton 處理器的核心數是 Graviton4 的兩倍,達到 192 個核
- Arm Neoverse CPU 的部署核心總數已超過 10 億
- Arm 在領先的超大規模雲端服務提供者中的佔有率預計將接近 50%
這些並非漸進式的成長,而是CPU密度的結構性提升,反映出產業已經體認到:由 CPU 主導的編排與資料處理,如今已成為 AI 資料中心大規模擴展的關鍵瓶頸。
隨著 AI 工作負載從間歇式轉向持續運行,核心數量和能效成為決定性指標。
機會帶來的經濟價值
對投資者而言,其影響在本質上是經濟問題,而非純技術問題。加速器的供給和模型能力 (例如,更大規模基礎模型,參數成長,多模態等) 不再是限制AI 資料中心發展的唯一因素。功耗、散熱和資本效率如今同樣關鍵,因為超大規模雲端服務提供者正面臨固定電力配額和實體機架空間的限制,而回報取決於基礎設施的利用效率。在此背景下,最大化每個機架的輸出 (而不是單點的峰值效能) 已成為 AI 可持續成長的決定性指標。
單靠加速器無法解決這些問題。事實上,如果沒有足夠的 CPU 來高效率地編排工作負載,昂貴的 AI 加速器可能會處於閒置或低利用狀態。
基於 Arm 架構的可擴展 CPU 能夠突破此一困局,使超大規模雲端服務提供者能夠實現:
- 在固定功率預算內支援 “Always-on” 的推論
- 提升加速器利用率
- 提高每機架的 AI 產出
- 實現系統級整合,而非簡單的「外掛式」架構
因此,CPU 的擴展與 AI 的經濟性如今已直接連動。
為何此趨勢是結構性的,而非週期性的
獨立分析進一步證實,這一轉變並非短期調整,而是一場持續多年的架構重塑。正如 Futurum Group 的研究指出,AI 基礎設施的未來正從「能堆出多少原始算力」轉向「如何智慧地在不同需求間編排算力」。
這樣的演進更有利於具備可擴展性與高能源效率的 CPU 架構,使其能在異質系統中擔任整體控制層的角色。
對 Arm 而言,這種趨勢也與我們長期以來的優勢高度契合:可擴展的架構,出色的能源效率,強大的生態系,讓超大規模雲端服務提供者能夠建構客製化晶片,而不會造成軟體碎片化。
Arm 並非透過單一 AI 模型或特定加速器的勝出來獲利,而是隨著整體運算需求的擴展創造收益——也就是在每一個為支援 AI 工作負載而新增部署的運算核心中累積價值。
在核心數量呈結構性成長的時代,這種模式更具優勢。
為未來鋪路
對投資人而言,關鍵結論既簡單卻意義深遠:AI 的成長已不再只取決於加速器,而是取決於系統能否在大規模環境下持續且高效率地進行協調運作。這正帶動市場對高核心數、具備高能源效率 CPU 前所未有的需求,也說明了為何 Arm 的資料中心業務正加速成為未來幾年公司最主要的成長動能。CPU 的重要性,正如同 50 年前其做為關鍵技術誕生時一樣的不可或缺;而這一次,它位於 AI 資料中心的核心,亦是未來創新的關鍵所在。
關於 Arm
Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,200 萬名軟體開發者的共同努力,我們正在 Arm 平台上建構 AI 的未來。
所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2026 Arm Limited.
Forward-looking statements
This news blog contains forward-looking statements within the meaning of Section 27A of the Securities Act of 1933, as amended, and Section 21E of the Securities Exchange Act of 1934, as amended, and as defined in the Private Securities Litigation Reform Act of 1995. All statements other than statements of historical fact could be deemed forward-looking statements, including without limitation, statements relating to the anticipated growth of Arm’s data center business, Arm’s expected share among top hyperscalers, and expectations with respect to CPU importance and demand that are based on Arm’s current expectations, estimates, assumptions and projections. In some cases, you can identify forward-looking statements because they contain words such as “may,” “might,” “will,” “could,” “would,” “should,” “expect,” “is/are likely to,” “intend,” “plan,” “objective,” “anticipate,” “believe,” “estimate,” “predict,” “potential,” “target,” “continue,” “ongoing” or similar words or phrases, or the negative of these words or phrases. These statements involve known and unknown risks, uncertainties and other important factors that may cause Arm’s actual results, levels of activity, performance or achievements to be materially different from the information expressed or implied by these forward-looking statements. There are many factors that could cause or contribute to such differences, including, but not limited to, those discussed in Arm’s Annual Report on Form 20-F for the fiscal year ended March 31, 2025, filed with the Securities and Exchange Commission on May 28, 2025. Any forward-looking statement in this news blog speaks only as of the date hereof, and Arm does not undertake any obligation to update any forward-looking statement to reflect events or circumstances after the date of this news blog except as required by applicable law. Arm cautions that you should not place undue reliance on any of Arm’s forward-looking statements.
關於 Arm
Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,200 萬名軟體開發者的共同努力,我們正在 Arm 平台上建構 AI 的未來。
所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2025 Arm Limited.