このページでは
概要
SME2でAndroidスマートフォンのオンデバイスAIを強化@primaryHeadingTag>
GoogleとArmは、KleidiAIを通じてAndroidに統合された高度な行列演算命令のセットであるScalable Matrix Extension(SME2)でモバイルAIを変革しています。これにより、開発者はコードを書き直すことなく、数十億台のデバイスに効率的なリアルタイムAIを提供できるようになります。リアルタイム翻訳からインテリジェントアシスタントまで、SME2は生成AI体験を直接CPU上で高速化し、遅延を減少して電力効率を向上させます。
GoogleとArmは、KleidiAIを通じてAndroidに統合された高度な行列演算命令のセットであるScalable Matrix Extension(SME2)でモバイルAIを変革しています。これにより、開発者はコードを書き直すことなく、数十億台のデバイスに効率的なリアルタイムAIを提供できるようになります。リアルタイム翻訳からインテリジェントアシスタントまで、SME2は生成AI体験を直接CPU上で高速化し、遅延を減少して電力効率を向上させます。
「Armの新しい製品(SME2)はCPUにさらなる演算能力をもたらしてくれるため、大きな期待を寄せています。今回初めて、これらの(生成AI)機能をエコシステム内の幅広いデバイスで実行できるようになりました」
Google、Android、AI/ML製品責任者、Oli Gaymond氏
使用されているテクノロジー
Arm SME2:AndroidモバイルAIワークロードの高速化
SME2は、次世代デバイス向けの高度なサブシステムであるArm Lumex CSSプラットフォームの最新のCPU拡張機能であり、デバイス上で直接マトリックス指向のコンピューティングワークロードを加速するように設計されています。これにより、AIおよびMLモデル、特にトランスフォーマー、畳み込みニューラルネットワーク(CNN)、大規模言語モデル(LLM)で一般的な行列乗算などの演算に依存するモデルのパフォーマンスが向上します。

Arm KleidiAI:コード変更なしでSME2のパフォーマンスを最大限に引き出す
Androidは、XNNPACK、LiteRT、MediaPipeなどの一般的なフレームワーク内で、Arm KleidiAIを使用してSME2を統合しています。これにより、Gemma 3のようなAIモデルは、6倍高速化された応答と即時の要約をCPU上で直接実現することができます。開発者は、サポートされているライブラリやフレームワークを使用することで、自動的にメリットを享受できます。
関連ストーリー