AI 系統的應用場景
-
資料中心 AI -
雲端運算 -
電信與網路 -
高效能運算
驅動可擴展資料中心 AI
隨著 AI 系統擴展應用於資料中心，Arm 架構 CPU 在協調工作負載、饋送資料給加速器及維持整體機櫃效率方面，扮演重要角色。Arm 藉由提供每瓦高效能與可擴展的系統設計，協助客戶提升 AI 吞吐量，同時降低功耗和整體基礎基礎設施成本。
以更高的效能實現最強的雲端運算
隨著 AI 與雲端原生工作負載的融合，Arm 架構 CPU 提供在分散式雲端環境擴展所需的效能與效率。Arm Neoverse 處理器可在各種雲端工作負載提供效能與效率，實現大規模的雲端 AI 服務。
推動次世代電信與網路基礎設施
隨著 AI 系統日漸分散，網路和控制面板發揮關鍵作用。Arm 協助建構雲端原生的軟體定義網路基礎設施，支援低延遲的資料移動和系統協調，適用於分散式 AI 工作負載。
在雲端最佳化基於 Arm 的 AI 工作負載
Arm Performix 是一款面向開發者的效能分析工具組，適用於建置 AI 和大型應用程式工作負載。它可以識別瓶頸，並提供有針對性的程式碼最佳化建議，進而提升 Arm Neoverse 平台上的效率與效能。
頂尖超大規模運算業者正在 Arm 架構上建構雲端 AI 的未來
NVIDIA、AWS、Google Cloud 與 Microsoft 在雲端和資料中心基礎設施革新 Arm 架構平台，推動下一波可擴展且節能的人工智慧創新。
最新消息與資源
- 最新消息與部落格
- 成功案例
- 白皮書
透過 Arm 技術帶動正向變革
瞭解我們的合作夥伴如何建構未來，並推動人工智慧在任何地方為所有人提供服務。
定義代理式 AI 的 CPU 和軟體堆疊效能
代理式 AI 將 CPU 工作負載擴展到推論之外。本白皮書提出一種以使用案例為導向的方法論，將元件層級基準測試與端對端基準測試相結合，用於衡量完成任務背後的基礎設施。
常見問題
什麼是融合型 AI 資料中心？
融合型 AI 資料中心將運算、加速器、記憶體和網路，整合至協調系統之中，專為大規模高效執行 AI 工作負載而設計。與傳統架構不同，融合將 AI 視為系統層級問題，而非一系列互相隔離的元件。
為何 CPU 是融合型 AI 資料中心的核心所在？
加速器帶動模型運算，CPU 則是系統提供實際 AI 服務不可或缺的基礎。每個 AI 資料中心 (無論是訓練還是推論)，都仰賴基於 CPU 的主節點來協調加速器、管理記憶體、進行預先與後處理，以及維持系統控制。
隨著推論變得更持續且以代理程式為基礎，這些協調作業的規模也會隨之擴大。 AI 系統越來越仰賴 CPU 來排程工作、管理狀態、支援鍵值快取和向量資料庫，以及處理與資料和服務的持續互動。在這樣的環境中，效率和核心密度與尖峰效能一樣重要。
Arm 如何提升雲端 AI 的每瓦效能？
Arm CPU 專為效率所設計，可在固定功耗和冷卻限制內提供更多可用的運算能力。如此一來，雲端供應商就能擴展 AI 容量，而不會導致能源消耗依比例增加。
Arm 相較於 x86 的雲端 AI 表現如何？
針對大規模的雲端 AI，Arm 架構平台提供所需的每瓦效能和核心密度，以達到最高機櫃層級效率及控制總持有成本。Arm 專為持續推論、代理程式協調管理及加速器協調所設計，可在超大規模環境中實現更高的工作負載密度和更低的功耗。效率、擴展能力，以及支援雲端原生生態系的結合，讓 Arm 超越傳統的 x86 平台，成為現代雲端 AI 基礎設施的強大選擇。
企業能否將 Arm 用於雲端 AI 資料中心，或僅限於超大規模運算業者？
雖然 Arm 架構雲端 AI 平台由超大規模運算業者率先採用，但目前已逐漸開放給所有規模的企業，並可支援廣大的軟體與硬體生態系。