系统效率决定性能
随着代理式 AI 系统规模不断扩大，整体性能取决于平台如何高效编排代理式 AI，并在整机架范围内协同调度 CPU、网络与加速器。机架密度、计算利用率以及总体拥有成本是由电源效率、内存带宽和系统级集成共同决定的，而不仅仅是峰值吞吐量。
基于 Arm 架构的平台专为融合型 AI 数据中心而设计，能够在持续的 AI 工作负载下，提供更高的机架级性能、显著提升的能效，以及更低的总体拥有成本。
性能
每机架实现突破性的性能表现。
扩展性
专为代理式 AI 驱动的千兆瓦级规模执行而设计。
能效
更低功耗，更高性能密度。
AI 系统的应用领域
-
数据中心 AI -
云计算 -
电信与网络 -
高性能计算
赋能可扩展的数据中心 AI
随着 AI 系统在数据中心内规模化扩展，基于 Arm 架构的 CPU 在编排工作负载、为加速器输送数据以及维持整个机架的效率方面发挥着核心作用。凭借出色的效能比和可扩展的系统设计，Arm 帮助客户在降低功耗和整体基础设施成本的同时，提高 AI 吞吐量。
升级性能，让云计算效能倍增
随着 AI 与云原生工作负载不断融合，基于 Arm 架构的 CPU 提供了在分布式云环境中扩展所需的性能与效率。Arm Neoverse 平台处理器在各类云工作负载中均能提供出色的性能与能效，助力实现大规模的云 AI 服务。
赋能下一代电信和网络基础设施
随着 AI 系统愈发分布化，网络和控制平面发挥着至关重要的作用。Arm 提供云原生、软件定义的网络基础设施，支持分布式 AI 工作负载的低延迟数据移动和系统协调。
领先的超大规模云服务提供商正在基于 Arm 平台构建云 AI 的未来
在云和数据中心基础设施领域，NVIDIA、AWS、Google Cloud 和微软正在推进基于 Arm 架构的平台开发，为下一波可扩展、节能型 AI 创新浪潮提供助力。
最新新闻和资源
- 新闻和博客
- 成功案例
- 电子书
通过 Arm 技术推动积极变革
我们的合作伙伴正塑造未来，赋能 AI 无处不在，惠及每一个人，欢迎了解详情。
在数据中心 AI 领域获得竞争优势
依托 Arm Neoverse 平台，企业能够对基础设施进行现代化升级，全方位提升性能、能效与灵活性，广泛覆盖云端和本地部署环境，既能满足当今需求，又能推动未来的创新。
常见问题
什么是融合型 AI 数据中心？
融合型 AI 数据中心将计算、加速器、内存和网络集成到一个协调一致的系统中，旨在高效运行大规模的 AI 工作负载。与传统架构不同，融合架构将 AI 视为一个系统级问题，而非孤立组件的集合。
为什么 CPU 在融合型 AI 数据中心占据核心地位？
加速器负责驱动模型计算，而 CPU 则作为将 AI 转化为实际服务的系统的基础。无论是用于训练还是推理，每个 AI 数据中心都依赖于基于 CPU 的头节点来协调加速器、管理内存、操作预处理和后处理以及维护系统控制。
随着推理变得更加持久化并基于代理式 AI，这些协调任务也在不断扩展。AI 系统越来越依赖 CPU 来安排工作、管理状态、支持键值缓存和向量数据库，并处理与数据及服务的持续交互。在这种环境下，能效和核心密度变得与峰值性能同等重要。
Arm 如何提高云 AI 场景的效能比？
Arm CPU 专为高效能而设计，能够在固定的功耗和散热限制内实现更高的可用计算能力。这使得云服务提供商能够在扩展 AI 算力的同时，避免能耗同比增加。
Arm 与 x86 在云 AI 方面相比如何？
对于大规模云 AI，基于 Arm 架构的平台提供了优化机架级效率和控制总体拥有成本所需的效能比与核心密度。Arm 专为持续推理、代理式 AI 编排和加速器协调而设计，能够在超大规模环境中实现更高的工作负载密度和更低的功耗。这种效率、可扩展性以及云原生生态系统支持的结合，使得 Arm 相比传统的 x86 平台更适合作为现代云 AI 基础设施。
Arm 架构能否供各企业用于云 AI 数据中心，还是仅适用于超大规模云服务提供商？
虽然基于 Arm 架构的云 AI 平台由超大规模云服务提供商率先采用，但目前正日益普及到各种规模的企业，并有一个广泛的软件和硬件生态系统提供支持。