概述
超高能效代理式 AI CPU
AI Summary
如今,软件代理式 AI 需要进行推理、决策和操作,对 CPU 提出了新的要求。此类工作负载需要一个处理器来编排计算、管理加速器并同时协调数千个代理式 AI。全新的计算时代,自然需要全新的处理器。
Arm AGI CPU 是 Arm 打造的首款量产芯片,专为大规模 AI 基础设施而设计。我们相信,它开创了全新的 CPU 品类,兼具高性能与超高机架级密度,可支持现代数据中心内的代理式 AI 运算。Arm AGI CPU 基于 Arm Neoverse CSS V3,我们预计 Arm AGI CPU 加入 Arm 的数据中心产品组合后,将借助同样广泛的 Arm 软硬件生态系统,加快产品上市进程。
性能
每机架性能
实现突破性提升。
规模
专为千兆瓦级代理式 AI 运行而设计。
效率
更低功耗,更高性能密度。
特性
首批部署 Arm AGI CPU 的合作伙伴
了解 OpenAI、SK Telecom、SAP、Cloudflare、F5 和 Cerebras 如何在其 AI 数据中心内使用 Arm AGI CPU 服务器。
规格
| Arm AGI CPU 136C (最大核心数) |
Arm AGI CPU 128C (总拥有成本 [TCO] 优化) |
Arm AGI CPU 64C (最大内存/核心) |
|
|---|---|---|---|
|
SKU |
|
|
|
|
处理核心 |
|
|
|
|
CPU 架构 |
|
|
|
|
系统级缓存 |
|
|
|
|
最大频率 |
|
|
|
|
基础 TDP* |
|
|
|
|
RDIMM 内存 |
|
|
|
|
每核内存吞吐量 |
|
|
|
|
PCIe/IO |
|
|
|
|
PCIe 控制通道数 |
|
|
|
|
支持双路 |
|
|
|
|
每个通道 2 个 DIMM 内存插槽 |
|
|
|
*表示可配置 TDP 范围内的预设 TDP 值
基于估算结果。