作者：Arm 雲端 AI 事業部資深行銷總監 Dilip Ramachandran

在代理式系統蓬勃發展的趨勢下， AI 的重心正從模型訓練階段轉向推論階段，資料中心產業邁入全新的成長階段。其挑戰不再侷限於理論效能，而是如何在混合部署環境中，高效擴展並編排 always-on 的分散式 AI 工作負載。

代理式 AI 系統需要持續運行，以協調各項任務、與資料流水線互動並即時做出決策。此一演進對基礎設施提出更嚴苛的需求，要求其能展現更好的能源效率、更大的運算密度，以及跨技術堆疊的無縫編排能力。

針對大規模 AI 的全堆疊式方案

Arm 攜手紅帽打造深度整合、量產級的 AI 技術堆疊，共同破解產業現存難題。雙方憑藉 Arm AGI CPU 與紅帽企業級開源平台，建構統一的底層架構，支撐雲端及本地資料中心順暢運行 AI 代理、雲端原生工作負載與各類企業級應用。

軟體層面，紅帽可提供專為 Arm 架構深度最佳化的全堆疊企業級平台。基於 Arm 架構的紅帽企業 Linux (RHEL) 是一款兼具穩定與安全特性的作業系統，全面相容現有企業工具、框架及工作流程。對於採用混合雲端架構的企業，該系統可確保一致的 runtime 環境，協助工作負載在 Arm 架構雲端執行個體與本地基礎設施之間無縫遷移。

紅帽 OpenShift 進一步拓展了這項能力，使企業能夠在 Arm 架構上規模化部署和管理 Kubernetes 叢集。AI 代理、微服務和資料流水線可在統一的雲端原生平台中進行編排，進而簡化跨環境的維運管理。借助紅帽 OpenShift 虛擬化對 Arm AGI CPU 的支援，企業可以同時運行虛擬機器和容器，實現循序漸進的現代化升級，並在不影響現有工作負載的前提下遷移至 Arm 平台。

紅帽 AI 工程副總裁 Steven Huels 表示：「紅帽打造企業級開源平台，協助混合雲端環境創新，並為客戶實現從應用層到底層架構的多元選擇。Arm 生態持續擴展，讓我們得以提供更豐富的產業解決方案；Arm AGI CPU 更將延續此一發展態勢，憑藉紅帽安全可靠、開放的技術基礎，針對 AI 建構新一代的基礎設施。」

針對 AI 基礎設施的客製化晶片

要在不同環境中實現這種一致性與可擴展性，就必須從晶片底層搭建全新的技術基礎。

該解決方案的核心是 Arm AGI CPU。這是 Arm 於今年三月發佈的首款針對資料中心基礎設施的系統級晶片 (SoC)。AGI CPU 專為 AI 工作負載量身打造，能夠支援從大規模推論與任務編排，到資料庫、視訊處理以及企業級服務在內的多樣化應用場景。

Arm AGI CPU 整合了 136 個 Arm Neoverse V3 核心、96 條 PCIe Gen6 通道，並配備 12 通道 DDR5 記憶體，最高運行速率可達 8800 MT/s，可為次世代工作負載提供卓越的效能與頻寬。

Amazon Graviton、Microsoft Azure Cobalt 以及 Google Axion 等基於 Arm 架構雲端平台，已充分展現出能源效率比和總擁有成本 (TCO) 的優勢。Arm AGI CPU 將這些優勢進一步延伸至本地環境，使企業能夠將針對雲端環境最佳化的 Arm 工作負載導入本地資料中心，同時在不同部署環境之間保持一致性。

為代理式 AI 需求而生

這一點對代理式 AI 發展尤其關鍵。如今企業不再侷限於週期性模型訓練，轉而建構 always-on 運行系統，這類系統需具備持續推論、即時編排能力，並實現大規模場景下的高效資料傳輸。

Arm AGI CPU 專為搭配此類場景需求設計，300 瓦 TDP 設計，能源效率表現遠超傳統 500 瓦級別 x86 處理器。在標準風冷 36 千瓦開放運算計畫 (Open Compute Project, OCP) 機櫃中，單機櫃可部署約 8,160 個核心，而傳統 x86 架構僅能部署 4,352 個核心，同等功耗上限內，運算密度近乎翻倍。

在 OCP 第三代開放機櫃等液冷環境中，算力規模可進一步擴充，單機櫃最高可搭載 336 顆 AGI CPU，核心總數可達 45,696 ，實現運算密度高達五倍的飛躍。

GPU 平台雖在 AI 模型訓練領域具備領先優勢，而 Arm AGI CPU 則精準突破資料預處理、任務編排與大規模推論部分的關鍵瓶頸，全面匹配代理式 AI 系統的核心運行訴求。

成熟的生態系，已可投入部署

該平台已獲得了包括美超微、聯想以及永擎電子等在內的廣泛的 OEM 與 ODM 合作夥伴生態系的支援，為企業在基礎設施部署與擴展方式上提供了高度靈活性。

Arm 與紅帽在資料中心領域擁有長期而穩固的合作基礎。伴隨 Arm AGI CPU 的推出，雙方聯手打造出一套高度整合、適合企業級應用的 AI 技術堆疊，融合經最佳化的硬體、成熟可靠的軟體，以及高效效能，全面滿足量產部署需求。

基於此整合堆疊打造的解決方案預計將於 2026 年第四季推出，讓企業能更有信心地部署次世代 AI 基礎設施。

點擊閱讀原文，深入了解 Arm AGI CPU，以及首波由領先生態系夥伴推出的系統。

關於 Arm

Arm 是 AI 時代的基礎平台，其兼具卓越效能與節能優勢的運算能力，觸及全球所有連網使用者。為因應對運算永無止境的需求，Arm 平台橫跨核心 IP、先進運算子系統及專用晶片，使國際頂尖的科技公司能靈活設計、打造並大規模部署 AI 應用。透過與規模最大的運算生態系及業界超過 2,200 萬名開發者的共同努力，我們正於 Arm 平台上建構 AI 的未來。

所有資訊都「依目前情況」提供，且並不帶保證或代表性。此文件可以自由分享，但不得修改且必須註明出處。Arm 是 Arm Limited（或其子公司與附屬機構）的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2026 Arm Limited.