エージェント型AI時代のデータセンターの再考
AI Summary
AIは、データセンターを、電力効率、拡張性、パフォーマンスを重視した、ワークロードに最適化された専門のインフラストラクチャへと推進しています。Armは、AIデータセンター向けのCPU基盤を提供し、アクセラレータとシームレスに統合することで、AIエージェントの統合する、データ処理、レコメンドエンジン、大規模言語モデル、検索拡張生成など、スケーラブルなAIワークロードをサポートします。堅牢なソフトウェアエコシステムと組み合わせることで、Armのコンピューティングプラットフォームは、ハイパースケーラーがAIインフラストラクチャを効率的に拡張し、パフォーマンス、コスト、エネルギー効率を向上させることを可能にします。
AIデータセンターの解析:カスタムシリコンとArmエコシステムの力
ArmのクラウドAI事業部門責任者であるMohamed Awadが、AIがデータセンターの設計をどのように変革しているか、なぜワットあたりのパフォーマンスがクラウドの競争力を決定づけるようになったのか、そしてArmエコシステムがAI時代に向けた次世代カスタムシリコンの開発をどのように加速させているのかについて解説します。
Arm AGI CPUによる強力なAIパフォーマンス
Arm Neoverse CSS V3をベースとしたArm AGI CPUは、大規模なAIに必要な極めて高いラックレベルの密度とパフォーマンスを提供し、汎用人工知能の追求に必要なコンピューティングのグローバルな拡大を加速させると同時に、Armエコシステムを通じて市場投入までの時間を短縮します。
Armで最大2倍のラックあたりパフォーマンスを実現
主要なエージェント型AIワークロード全体にわたる独立したテストの結果、 Arm AGI CPUはラックあたりのパフォーマンスにおいてAMD EPYC Turinを上回り、最新のエージェント型インフラストラクチャに対して、より高いスループット、優れたスケーリング、より低いレイテンシ、より高い効率性を実現することが示されました。 1
- 推論と計画
- ツール
- エンドツーエンドのエージェント型ワークフロー
- オーケストレーション
より多くのコンピューティング、より高い効率、より優れた価格性能
Armは、幅広いAIアクセラレータとシームレスに連携するエネルギー効率の高いコンピューティングを提供し、総保有コストを削減しながら優れたパフォーマンスと効率を実現します。
実世界のパフォーマンスに最適化されたインフラストラクチャを通じて業界リーダーを支援
Armは、実世界のパフォーマンスに最適化されたコンピューティングソリューションにより、拡張性とAI最適化を実現したクラウドインフラストラクチャを構築するように支援します。Arm CPUは、パフォーマンス、電力効率、シームレスなスケーラビリティを実現するように設計されており、最も要求の厳しいAIおよびクラウドワークロード向けのアクセラレータを統合するのに最適です。
ArmベースのAWS Gravitonプロセッサーが、AIとクラウドネイティブのワークロードに優れた価格パフォーマンスと効率をもたらし、クラウドAIをどのように変革しているかをご覧ください。現在、AWS Trainium3 UltraServerに搭載されています。
Google Cloud初のカスタムArmベースのCPUであるAxionが、AIとクラウドワークロードのパフォーマンスと効率をどのように向上させているかをご覧ください。
Armの電力効率のよいコンピューティングプラットフォームが、Grace CPUファミリーや、新たに加わったVera CPUなどを含むNVIDIAアクセラレーテッドコンピューティングプラットフォームの重要な要素となり、NVIDIAのラックレベルAIソリューションのパフォーマンスを飛躍的に向上した方法をご覧ください。
ArmのソフトウェアとツールでAIワークロードを最適化
開発者は、少ない労力でAIを迅速かつ効率的に導入するために最適化されたツールを必要としています。Arm Kleidiライブラリや幅広いフレームワークサポートなどのArmソフトウェアエコシステムは、導入までの時間を短縮し、クラウドとエッジ全体でAIワークロードのパフォーマンスを向上させます。
Arm Kleidiと開発者ツールでAIを加速
Arm KleidiAIライブラリ、幅広いフレームワークサポート、強力な開発者向けリソースを使用してパフォーマンスを向上させ、展開と最適化を効率化します。
最新のニュース・関連情報
- ニュースとブログ
- レポート
- ポッドキャスト
- ホワイトペーパー
持続可能なデータセンターのパフォーマンスに関するベンチマーク
Signal65の独立した分析により、Arm NeoverseベースのAWS Graviton4プロセッサが、Web、データベース、AIワークロード全体でワットあたりの優れたパフォーマンスを一貫して提供し、データセンターの効率を高め、総保有コストの削減を実現する方法が明らかになりました。
データセンターにおけるAI
データセンターにおけるArmの新時代の幕開け
業界アナリストのBen Bajarin氏が、AIがデータセンターアーキテクチャをどのように再定義しているのか、そしてAI時代のスケーラブルで効率的なインフラストラクチャを推進する上でArmが重要な役割を担うようになっている理由を探ります。
データセンターにおけるAI
ArmとNVIDIAがデータセンターにおけるAIを再定義
NVIDIAとのポッドキャストを聴き、Armのパートナーシップがエンタープライズコンピューティングをどのように変革しているかを探ってください。
データセンターにおけるAI
Armと業界専門家Matt Griffin氏によるAIインフラストラクチャの未来
Armと311 Instituteの創設者であるMatt Griffin氏が、新たなAIインフラストラクチャのトレンド、コンピューティングの拡張における課題、Armがクラウドからエッジまで効率的で持続可能なAIをどのように実現しているかについて話し合います。
クラウドからエッジまでスケーラブルなAIプラットフォームを構築
企業が、将来を見据えたコンピューティングスタックを設計するのに役立つ5つの決定事項について学びます。ヘテロジニアス・コンピューティングを導入し、ソフトウェアレイヤーを統合し、インフラストラクチャをビジネス目標に合わせて調整し、遅延を削減して環境全体で効率的に拡張する方法を探求します。
エージェント型AI向けのCPUとソフトウェアスタックのパフォーマンスを定義
エージェント型AIは、推論に留まることなくCPUワークロードを拡張しています。このホワイトペーパーでは、コンポーネントレベルとエンドツーエンドのベンチマークを組み合わせた、ユースケース主導型の手法で、完了したタスクを裏側で支えるインフラストラクチャの測定を提案しています。
重要なポイント
-
エージェント型AIシステムには、パフォーマンス、拡張性、効率性を最適化するための専用インフラストラクチャが必要です。
-
CPUは、アクセラレータの管理とワークロードのオーケストレーションにより、AIデータセンターの基盤を形成します。
-
現代のAIワークロードには、レコメンデーションシステム、大規模言語モデル、検索拡張生成などのユースケースが含まれます。
-
AIインフラストラクチャの効果的な展開・拡張には、強力なソフトウェアエコシステムが不可欠です。
-
効率的なインフラストラクチャの設計は、パフォーマンスの向上、コストの削減、電力消費量の大規模な低減につながります。
よくある質問:データセンターにおけるAI
ArmがデータセンターのAIに最適な理由
- 電力効率のよいパフォーマンス:Arm Neoverse CPUは業界をリードするワットあたりパフォーマンスを提供し、エネルギーコストを削減し、運用効率を向上させます。
- 総保有コスト(TCO)の削減:最新のAIワークロード向けに最適化されたスケーラブルなアーキテクチャにより、企業はインフラストラクチャの支出を削減できます。
- 柔軟でワークロードに最適化されたシステム:Armベースのプラットフォームは、GPU、NPU、カスタムアクセラレータとシームレスに統合され、あらゆるAIタスクに適切なコンピューティングを提供します。
- ハイパースケーラーからの信頼:2025年までに、トップハイパースケーラーに出荷されるコンピューティングの半分がArmベースになると予測されています。そしてこれは、大規模なAIの導入におけるArmへの信頼が高まっていることを表しています。
- 統合AIインフラストラクチャ:成熟したソフトウェアエコシステムと幅広い採用により、クラウドおよびデータセンター環境における多様なコンピューティングエンジン間のシームレスな統合をサポートします。
Armベースのプラットフォームは、NVIDIA、Google Cloud、AWSなどの業界パートナー全体でAIパフォーマンスをどのように向上させ、クラウドコストを削減するのか?
ArmベースのプラットフォームによりAIのパフォーマンスと効率が大規模に向上:
- NVIDIA:Arm CPU + Grace Hopperを使用すると、x86ベースのシステムと比較して、最大8倍高速なMLトレーニングと4.5倍優れたLLM推論(GPT-65B)が得られます。
- Google Cloud:x86ベースの代替製品と比較した場合、Axionプロセッサーは、MLPerfパフォーマンスが最大3倍、推論スループットが2.5倍、コストが64%削減されます。
- AWS:Armをベースに構築されたGraviton CPUは、AWSの最近の容量の50%以上を賄い、業界をリードする価格性能比とエネルギー効率を実現します。
これらのイノベーションを組み合わせることで、クラウドおよびハイパースケールプラットフォーム全体でより高速でコスト効率の高いAIが実現します。
Armは開発者にどのようなAIワークロード向けツールを提供しているのか?
開発者は以下を使用してワークロードを加速できます。
- Arm Kleidiライブラリ
- 最適化されたフレームワークとツールチェーン
- 移行チュートリアルとクラウド/サーバー開発の学習パス
つながる
サブスクリプションに登録して、最新のニュースやトレンド、ケーススタディ、技術的知見を入手してください。
Results are tested and validated by Signal65 (3rdParty) in collaboration with Arm. All tests are evaluated by Signal65 and measured on Arm AGI CPU and AMD EPYC systems and specifications noted at the time of testing. Full methodology here. Results may vary.
結果は第三者による評価に基づいています。全てのテストはSignal65によって実施され、テスト時に記録されたAWSインスタンスと仕様に基づいて評価されます。方法論の全容はこちら。結果は異なる場合があります。
Arm Neoverse搭載のMicrosoft Cobalt 100上でONNXランタイムを使用してLLM推論を高速化。