概述
全球最高效的代理式 AI CPU
AI Summary
軟體代理程式現在能夠推理、決定及行動,對 CPU 提出全新需求。這類工作負載需要處理器來協調運算、管理加速器,並同時協調數千個代理程式。這是運算的新時代,需要有新的處理器類別。
Arm AGI CPU 是 Arm 第一款生產晶片,專為大規模的人工智慧基礎設施所設計。我們相信它能夠提供支援高效能和極致機櫃級密度的全新級別 CPU,協助現代資料中心的代理式 AI 運作。基於 Arm Neoverse CSS V3,Arm AGI CPU 加入 Arm 資料中心方案,運用相同的廣大 Arm 軟體和硬體生態系,預期將有助加快上市時程。
效能
每機櫃突破性
的效能。
規模
專為吉瓦級的代理程式驅動執行所設計。
效率
更低功耗、更高效能密度。
特色
首批部署 Arm AGI CPU 的合作夥伴
探索 OpenAI、SK Telecom、SAP、Cloudflare、F5 和 Cerebras 如何在人工智慧資料中心使用 Arm AGI CPU 伺服器。
產品規格
| Arm AGI CPU 136C (最大核心數) |
Arm AGI CPU 128C (總擁有成本 [TCO] 最佳化) |
Arm AGI CPU 64C (每核心最大記憶體) |
|
|---|---|---|---|
|
SKU |
|
|
|
|
處理核心 |
|
|
|
|
CPU 架構 |
|
|
|
|
系統層級快取 |
|
|
|
|
最大頻率 |
|
|
|
|
基礎 TDP* |
|
|
|
|
RDIMM 記憶體 |
|
|
|
|
每核心記憶體吞吐量 |
|
|
|
|
PCIe/IO |
|
|
|
|
PCIe 控制通道數 |
|
|
|
|
2 插槽支援 |
|
|
|
|
每通道 2 DIMMS |
|
|
|
*表示可配置 TDP 範圍內的預設 TDP 值
依據估計值。