Arm AGI CPU:全球最高效的智能体 CPU
AI Summary
Arm AGI CPU 是 Arm 打造的首款量产芯片,专为智能体 AI 的需求而设计。在智能体 AI 中,软件智能体会持续大规模地进行推理、决策和行动。这些工作负载需要 CPU 能够编排计算、管理加速器,并同时协调数千个智能体。Arm AGI CPU 基于 Arm Neoverse CSS V3,提供高性能和超高机架级密度,可通过成熟的软硬件生态系统加快 AI 基础设施部署。
首批部署 Arm AGI CPU 的合作伙伴
了解 OpenAI、SK Telecom、SAP、Cloudflare、F5 和 Cerebras 如何在其 AI 数据中心内使用 Arm AGI CPU 服务器。
即将部署 Arm AGI CPU 的数据中心
Arm AGI CPU 服务器
Arm AGI CPU规格与产品简介
| Arm AGI CPU 136C (最大核心数) |
Arm AGI CPU 128C (总拥有成本 [TCO] 优化) |
Arm AGI CPU 64C (最大内存/核心) |
|
|---|---|---|---|
|
SKU |
|
|
|
|
处理核心 |
|
|
|
|
CPU 架构 |
|
|
|
|
系统级缓存 |
|
|
|
|
最大频率 |
|
|
|
|
基础 TDP* |
|
|
|
|
RDIMM 内存 |
|
|
|
|
每核内存吞吐量 |
|
|
|
|
PCIe/IO |
|
|
|
|
PCIe 控制通道数 |
|
|
|
|
支持双路 |
|
|
|
|
每个通道 2 个 DIMM 内存插槽 |
|
|
|
*表示可配置 TDP 范围内的预设 TDP 值
针对 Arm AGI CPU 优化工作负载
Arm Performix 是一款面向开发者的性能分析工具包,适用于构建 AI 和大型应用工作负载。它可以识别瓶颈,并提供有针对性的代码优化建议,从而提升 Arm AGI CPU 的效率和性能。
为 AI 的下一个时代赋能
关键要点
关键要点
-
Arm AGI CPU 专为需要持续协同处理的智能体 AI 工作负载而构建。
-
它充当编排层,管理加速器并同时协调数千个 AI 智能体。
-
该处理器基于 Arm Neoverse CSS V3,充分利用经过验证的平台和生态系统。
-
它可提供高性能,并支持现代数据中心所需的超高机架级密度。
-
Arm AGI CPU 基于 Arm 现有的软硬件生态系统,可帮助加快产品上市。
常见问题解答
问:Arm AGI CPU与传统数据中心CPU有何不同?
答:Arm AGI CPU是Arm首款量产芯片,专为智能体 AI 工作负载设计,提供高性能、可扩展的并行处理以及能效优化,使数据中心能够高效运行大规模持续AI工作负载。
问:Arm AGI CPU的关键特性是什么?
答:Arm AGI CPU 结合高核心密度、优化的内存架构以及可扩展的系统设计,以支持大规模 AI 工作负载:
- 高效核心:最多136个Arm Neoverse V3核心,每核心2MB L2缓存,最高3.7GHz频率,实现高响应并行性能。
- 性能与效率:基于TSMC 3nm工艺,300W TDP,实现高吞吐与能效平衡。
- 优化内存架构:支持DDR5-8800,每核心6GB/s带宽与低于100ns延迟。
- 高密度部署:支持高密度设计,如1U服务器最多272核心。
- 机架级扩展:支持每机架数千核心的大规模AI部署。
- 灵活I/O:96条PCIe Gen6通道、CXL 3.0与AMBA CHI,支持可组合AI系统。
问:什么是智能体 AI?为什么需要新型CPU?
答:智能体 AI 指持续运行并实时决策的系统,需要能够高效协调大规模分布式系统的 CPU。
问:Arm AGI CPU如何提升数据中心性能?
答:通过提升单任务效率并扩展至数千核心,实现每系统更多计算量,机架性能超过x86两倍。1
问:Arm AGI CPU如何支持大规模AI基础设施?
答:通过管理分布式工作负载、协调加速器以及优化数据流动,实现大规模持续AI运行。
问:Arm AGI CPU如何融入Arm生态系统?
答:将Arm计算平台扩展至量产芯片,使合作伙伴可通过IP、子系统或成品CPU灵活部署。
结果由 Signal65(第三方)与 Arm 合作测试和验证。所有测试均由 Signal65 评估,并基于测试时注明的 Arm AGI CPU 和 AMD EPYC 系统及规格进行测试。完整方法论请参见此处。结果可能会有所不同。









