概述

Arm AGI CPU:全球最高效的智能体 CPU

AI Summary

Arm AGI CPU 是 Arm 打造的首款量产芯片,专为智能体 AI 的需求而设计。在智能体 AI 中,软件智能体会持续大规模地进行推理、决策和行动。这些工作负载需要 CPU 能够编排计算、管理加速器,并同时协调数千个智能体。Arm AGI CPU 基于 Arm Neoverse CSS V3,提供高性能和超高机架级密度,可通过成熟的软硬件生态系统加快 AI 基础设施部署。

性能

基于 Arm,每机架性能提升高达 2 倍

在关键智能体 AI 工作负载中,独立测试显示,Arm AGI CPU 在每机架性能方面优于 AMD EPYC Turin,为现代智能体基础设施提供更高吞吐量、更出色的扩展能力、更低延迟和更高效率。 1

阅读报告了解智能体性能
  • 推理与规划
  • 工具调用
  • 端到端智能体工作流
  • 编排
特性

Arm AGI CPU 的主要功能

机架级性能

首批部署 Arm AGI CPU 的合作伙伴

了解 OpenAI、SK Telecom、SAP、Cloudflare、F5 和 Cerebras 如何在其 AI 数据中心内使用 Arm AGI CPU 服务器。

 
更多来自我们合作伙伴的评价
服务器及机架级系统

Arm AGI CPU 服务器

Arm AGI CPU 1OU 双节点 参考服务器

Arm AGI CPU 1OU 双节点
参考服务器

基于 OCP DC-MHS 标准外形 1OU 双节点服务器,打造 Arm AGI CPU 最高密度部署参考设计。

Arm AGI CPU 2U2P 参考服务器

Arm AGI CPU 2U2P
参考服务器

19” 2U2P 参考设计,适用于在传统外形尺寸中部署Arm AGI CPU。

联想 HR650a V3 2U Arm AGI CPU 系统

联想 HR650a V3 2U Arm AGI CPU 系统

企业级 2U Arm AGI 服务器,针对云基础设施进行了优化,可提供可靠的性能和低总体拥有成本。

SuperMicro 5U Arm AGI CPU PCIe GPU 系统

SuperMicro 5U Arm AGI CPU PCIe GPU 系统

高密度 5U AI 平台,结合了双路 Arm AGI CPU 和丰富的 PCIe GPU 扩展。

SuperMicro 2U Hyper Arm AGI CPU Hyper 系统

SuperMicro 2U Hyper Arm AGI CPU Hyper 系统

紧凑型 2U 双路 Arm AGI 服务器,专为云端和 AI 基础设施的高效部署而设计。

Supermicro 2U4N Arm AGI CPU 液冷服务器

Supermicro 2U4N
Arm AGI CPU 液冷服务器

面向云计算和 AI 工作负载(包括智能体 AI 和 AI 预处理)的液冷 2U 4 节点服务器,提供卓越的性能、密度和能效。

SuperMicro 2U Hyper-E Arm AGI CPU 服务器

SuperMicro 2U Hyper-E
Arm AGI CPU 服务器

面向云计算和边缘计算的单路 2U 服务器,支持高达 3TB 内存。

华擎 2OU2N-Arm 系统

华擎 2OU2N-Arm
系统

符合 OCP ORv3 标准的高密度双节点 Arm 服务器,适用于可扩展、高能效的云部署。

Arm AGI CPU 机架级系统

Supermicro 2U 4-Node Arm AGI CPU 机架级解决方案

Supermicro 2U 4-Node
Arm AGI CPU 机架级解决方案

超高密度多节点液冷 ORv3 机架架构,配备 76 个节点、152 颗 Arm AGI CPU,总计 20,672 个核心。

Supermicro 1U 4-Node Arm AGI CPU 机架级解决方案

Supermicro 1U 4-Node
Arm AGI CPU 机架级解决方案

实现最高计算密度的多节点液冷 ORW 机架架构,配备 168 个节点、336 颗 Arm AGI CPU,总计 45,696 个核心。

咨询 Arm 专家
规格

Arm AGI CPU规格与产品简介

Arm AGI CPU 136C
(最大核心数)
Arm AGI CPU 128C
(总拥有成本 [TCO] 优化)
Arm AGI CPU 64C
(最大内存/核心)

SKU

  • SP113012
  • SP113012S
  • SP113012A

处理核心

  • 136 Neoverse V3
  • 2x 128 SVE
  • 2MB/core L2
  • 128 Neoverse V3
  • 2x 128 SVE
  • 2MB/core L2
  • 64 Neoverse V3
  • 2x 128 SVE
  • 2MB/core L2

CPU 架构

  • Armv9.2
  • bfloat16 and INT8 AI 指令
  • Armv9.2
  • bfloat16 and INT8 AI 指令
  • Armv9.2
  • bfloat16 and INT8 AI 指令

系统级缓存

  • 128MB
  • 128MB
  • 128MB

最大频率

  • 3.5GHz
  • 3.5GHz
  • 3.7GHz

基础 TDP*

  • 300W
  • 300W
  • 300W

RDIMM 内存

  • 12x DDR5
  • Up to 8800MT/s
  • 12x DDR5
  • Up to 8800MT/s
  • 12x DDR5
  • Up to 8800MT/s

每核内存吞吐量

  • 6GB/s per core
  • 6.3GB/s per core
  • 13GB/s per core

PCIe/IO

  • 96x lanes PCIe Gen6
  • CXL 3.0 Type 3
  • 96x lanes PCIe Gen6
  • CXL 3.0 Type 3
  • 96x lanes PCIe Gen6
  • CXL 3.0 Type 3

PCIe 控制通道数

  • 6x 1 Gen4
  • 6x 1 Gen4
  • 6x 1 Gen4

支持双路

  • 是
  • 是
  • 是

每个通道 2 个 DIMM 内存插槽

  • 是
  • 是
  • 是

*表示可配置 TDP 范围内的预设 TDP 值

下载产品简介
Arm Performix

针对 Arm AGI CPU 优化工作负载

Arm Performix 是一款面向开发者的性能分析工具包,适用于构建 AI 和大型应用工作负载。它可以识别瓶颈,并提供有针对性的代码优化建议,从而提升 Arm AGI CPU 的效率和性能。

开始优化
咨询专家

咨询 Arm 专家,了解 Arm AGI CPU
专为下一代 AI 数据中心打造的设计理念。

联系我们

关键要点

关键要点

  • Arm AGI CPU 专为需要持续协同处理的智能体 AI 工作负载而构建。

  • 它充当编排层,管理加速器并同时协调数千个 AI 智能体。

  • 该处理器基于 Arm Neoverse CSS V3,充分利用经过验证的平台和生态系统。

  • 它可提供高性能,并支持现代数据中心所需的超高机架级密度。

  • Arm AGI CPU 基于 Arm 现有的软硬件生态系统,可帮助加快产品上市。

FAQ

常见问题解答

问:Arm AGI CPU与传统数据中心CPU有何不同?

答:Arm AGI CPU是Arm首款量产芯片,专为智能体 AI 工作负载设计,提供高性能、可扩展的并行处理以及能效优化,使数据中心能够高效运行大规模持续AI工作负载。

问:Arm AGI CPU的关键特性是什么?

答:Arm AGI CPU 结合高核心密度、优化的内存架构以及可扩展的系统设计,以支持大规模 AI 工作负载:

  • 高效核心:最多136个Arm Neoverse V3核心,每核心2MB L2缓存,最高3.7GHz频率,实现高响应并行性能。
  • 性能与效率:基于TSMC 3nm工艺,300W TDP,实现高吞吐与能效平衡。
  • 优化内存架构:支持DDR5-8800,每核心6GB/s带宽与低于100ns延迟。 
  • 高密度部署:支持高密度设计,如1U服务器最多272核心。
  • 机架级扩展:支持每机架数千核心的大规模AI部署。
  • 灵活I/O:96条PCIe Gen6通道、CXL 3.0与AMBA CHI,支持可组合AI系统。

问:什么是智能体 AI?为什么需要新型CPU?

答:智能体 AI 指持续运行并实时决策的系统,需要能够高效协调大规模分布式系统的 CPU。

问:Arm AGI CPU如何提升数据中心性能?

答:通过提升单任务效率并扩展至数千核心,实现每系统更多计算量,机架性能超过x86两倍。1

问:Arm AGI CPU如何支持大规模AI基础设施?

答:通过管理分布式工作负载、协调加速器以及优化数据流动,实现大规模持续AI运行。

问:Arm AGI CPU如何融入Arm生态系统?

答:将Arm计算平台扩展至量产芯片,使合作伙伴可通过IP、子系统或成品CPU灵活部署。


  1. 结果由 Signal65(第三方)与 Arm 合作测试和验证。所有测试均由 Signal65 评估,并基于测试时注明的 Arm AGI CPU 和 AMD EPYC 系统及规格进行测试。完整方法论请参见此处。结果可能会有所不同。