概要

Arm CPUを活用して優れたAI推論を実現

新しい多様なAIアプリケーションが日々生み出されている中で、AI環境は急速に進化しており、AIの大規模な展開が見込まれています。Arm CPUはすべてのAIの基盤であり、世界で最も広範なAIコンピュートプラットフォームの中核にあります。クラウドからエッジまで、あらゆるセグメントにおけるAIソリューションが、Armの優れたパフォーマンス、効率、セキュリティ、拡張性の融合を活用しています。Arm CPUは、生成AIを支える大規模言語モデル（LLM）から、小型・ドメイン特化型のAIモデルまで、進化するAIワークロードの要求に対応する理想的な位置づけにあります。Arm CPUは、あらゆる分野において一般的なツールチェーンを可能にするとともに、すべての主要なオペレーティングシステム（OS）やAIフレームワークと結びついて、摩擦のない開発体験とシームレスなアクセラレーションを確約します。

CPU推論を理解するためのガイド

A Comprehensive Guide to Understand AI Inference on the CPU thumbnail

この包括的なガイドでは、CPUでのAIワークロード処理と、これが実用的な選択肢となり得るユースケースを掘り下げます。CPU推論からメリットを得ている業界を探り、実世界の例について学びます。

ガイドのダウンロード

CPU上のAI

CPUでの稼働に最適なAIワークロードとは？

従来のMLとディープラーニング

シネマティック写真やメディア・オーディオ処理、自動車のワークロード（デジタルコックピットやADAS L2+など）、リアルタイムの音声アシスタント、リアルタイム分析および提案（ソーシャルメディアや電子商取引向け）、自然言語処理（感情分析を含む）などの機械学習（ML）とディープラーニングを組み合わせたアプリケーション。

詳細はこちら

メリット

Arm CPUがAIにもたらすメリット

柔軟で電力効率のよいパフォーマンスと妥協のないセキュリティ

Armの優れた電力効率は、マイクロコントローラーからハイパースケーラーに至るまで、すべてのArm製品の基盤となっています。Arm CPUは、電力効率のよいパフォーマンスと柔軟性を組み合わせた、卓越した基盤を多くのAIワークロードに提供します。

Armは30年以上にわたりセキュリティアーキテクチャの改良に取り組み、何十億ものデバイスを一般的なハッキングから保護してきました。そして今、CPUで稼働するAIは、Armv9における最新の強化機能を含め、これらのアーキテクチャセキュリティ機能のメリットを享受しています。

広範なグローバルプラットフォームが開発者のために断片化を排除

ArmベースのCPUは、グローバルなAI普及の中核にあります。Armの広範性により、Arm開発者は、モデルの進化に合わせて機械学習（ML）をアプリケーションに導入することができます。

Armは、幅広いソフトウェアライブラリやツールへの投資と、すべての主要なオペレーティングシステム（OS）およびAIフレームワークとの統合により、Arm CPUでの開発者によるAIの最適化、開発、展開を容易にしています。そして、AIワークロードの進歩に合わせて、Armはこの取り組みをソフトウェアエコシステムへの投資でも継続しています。

カスタマイズされたヘテロジニアスなAIを実現する独自の手段

追加のアクセラレーションがメリットをもたらすワークロードのために、Arm CPUはArmとそのパートナーが提供するGPUおよびNPUとシームレスに動作し、カスタマイズの手段を提供することで、AIの未来を現実のものにします。

Armパートナーが次世代のAI演算要件を追求する中で、Armの幅広いIPおよびコンピュートサブシステム（CSS）は、固有のAIワークロード要件を満たすために必要な柔軟性で、カスタマイズされたシステムを構築するための手段を提供します。

サクセスストーリー

パートナーのイノベーション

コンピューティングプラットフォーム

エッジからクラウドまでのAI基盤

Two Decades of AI Architecture Innovation thumbnail

20年にわたるAIアーキテクチャのイノベーション

Armは、変化し続ける演算要件とAIの未来に向けて広大なエコシステムの準備を整えるための、迅速なアーキテクチャのイノベーションに重点を置いています。Armは20年以上にわたり、一貫して積極的にCPUのAI機能をNeon、Helium、Scalable Vector Extension（SVE）、Scalable Matrix Extension 2（SME2）などの機能で進化させてきました。最新のArmv9アーキテクチャの特徴は、演算性能の向上とAIワークロードの消費電力削減を後押ししています。

Armv9アーキテクチャ

Armは、主要なAIフレームワークおよびオペレーティングシステム（OS）とのパートナーシップにより、Arm CPU全体にわたるAIワークロードの拡張を迅速かつ容易に展開できるよう確約しています。量子化を用いた新しいモデルの最適化技術と、フレームワークや独立系ソフトウェアベンダーによって使用されているArm KleidiなどのAIアクセラレーションのためのオープンソースソフトウェアで、主要パートナーをサポートしています。AIフレームワークレベルでアクセラレーションをターゲットとすることで、エッジ、モバイル、クラウドでのワークロード用に展開された数十億のAI推論デバイスにわたり、Arm CPUでのAIアクセラレーションを最も広範に推進することができます。ゲーミング、コンピュータービジョン、言語モデルを網羅したArmの取り組みにより、アプリケーション開発者は、いかなる追加の最適化も必要とすることなく、Arm CPUでのAIワークロードにデフォルトで最高のパフォーマンスを期待することができます。

Arm Kleidiの詳細を見る

Arm CPUを活用して優れたAI推論を実現

CPU推論を理解するためのガイド