概述

使用 SME2 推動 Android 智慧型手機的裝置內人工智慧

Google 與 Arm 使用可擴展矩陣延伸指令集 (SME2) (一組透過 KleidiAI 整合至 Android 的進階矩陣運算指令),改變行動裝置人工智慧。協助開發人員在數十億個裝置提供高效且即時的人工智慧,無須重寫程式碼。從即時翻譯到智慧助理,SME2 可直接在 CPU 加速生成式人工智慧體驗,減少延遲並提升能源效率。

影響
AI chip icon

高效的人工智慧推論

SME2 大幅提升 CPU 效能,適用於視覺、語言與語音人工智慧任務。

6x faster speedometer icon

更低延遲

人工智慧回應速度提升高達 6 倍與即時應用程式體驗。

Developer icon

開發人員就緒

透過 Arm KleidiAI 在 Google 的 XNNPACK、LiteRT 與 MediaPipe 之間無縫整合。

「我們對 Arm 新產品 (SME2) 感到非常興奮,因為其為 CPU 帶來額外的運算。我們首次能在生態系的各種裝置上執行這類 (GenAI) 功能。」
Android Google 人工智慧/機器學習產品負責人 Oli Gaymond
4 layers of chip design
使用的技術

Arm SME2:加速 Android 行動裝置人工智慧工作負載

SME2Arm Lumex CSS 平台的最新 CPU 擴充,也是次世代裝置的先進子系統,旨在直接在裝置上加速矩陣導向運算工作負載。可提升人工智慧與機器學習模型的效能,尤其是依賴矩陣乘法等操作的模型,這在轉換器、卷積神經網路 (CNN) 與大型語言模型 (LLM) 中常見。

探索 Arm SME2

Arm KleidiAI:無需變更程式碼即可發揮 SME2 效能

Android 使用 Arm KleidiAI 在 XNNPACK、LiteRT、MediaPipe 與其他熱門框架中整合 SME2,可讓 Gemma 3 等人工智慧模型直接在 CPU 上提供加快 6 倍的回應速度與即時摘要。開發人員可使用支援的函式庫與框架從中自動獲益。

相關案例

探索類似案例

vivo X200 系列旗艦級行動電話

卓越的行動裝置體驗

Meta 提供的開放原始碼框架與模型奠定基礎,在 Arm 架構上大規模革新人工智慧創新的未來發展。

Stability AI

改變裝置內的音訊人工智慧

Stability AI 與 Arm 合作使用 Arm KleidiAI 改變裝置內的音訊創作方式,將 Arm 行動裝置 CPU 的回應時間從幾分鐘縮短為幾秒。

三星 Galaxy S24

革新的人工智慧功能

開啟人工智慧手機新時代,超越目前的智慧型手機體驗。

探索更多成功案例