適用於裝置內生成式 AI 的運算平台
AI Summary
人工智慧正在裝置內發展,將行動裝置轉型為智慧平台,能夠瞭解情境、推理並即時行動。第二代行動裝置運算子系統 (CSS) 是 Arm 的行動運算平台,可在邊緣實現 AI 原生行動裝置體驗。這項平台提供效能和效率,推動將現今的生成式 AI 體驗轉變為次世代個人化代理式 AI。
採用 AI 技術的行動裝置體驗應用
-
生成式 AI
-
CPU 推論
-
機器學習
行動裝置上的生成式 AI
生成式 AI 將智慧型手機整合為個人及專業運算的中心。Arm 技術提供高效基礎,推動 AI 大規模加速,讓創新的生成式 AI 使用場景 (包括群組聊天摘要及即時助理),完全在行動裝置上執行。
AI 創新的基礎
Arm CSS for Mobile 2、GPU、系統 IP、軟體與工具集結在整合式平台中,適用於 AI 原生智慧型手機。可促成迅速回應的代理式 AI、神經圖像,並在行動裝置功耗與熱限制範圍內提供持續效能,協助晶片合作夥伴與 OEM 代工廠商加速開發次世代裝置。
Arm C2 CPU 叢集專為迅速回應的代理式 AI 與持續行動裝置效能所打造。結合全新的 C2-Ultra、C2-Pro 與第二代可擴展矩陣延伸指令集 (SME2),協助協調整個運算系統的 AI 工作流程,同時直接在 CPU 加速對延遲敏感的工作負載。
Mali G2-Ultra NX GPU 以專用神經網路加速器、次世代光線追蹤與更高的持續效能,將 AI 原生圖像導入手遊。這款 GPU 專為高階行動裝置所打造,協助開發者在行動裝置功耗和熱限制內,提供更銳利的視覺效果,以及更順暢豐富的遊戲體驗。
智慧型手機上的生成式 AI
節能的影像產生
Stability AI 與 Arm 正在改變影像與音訊產生方式。Arm 運算平台兼具效能與效率,非常適合使用 Stability AI 的 Stable Diffusion 模型和 Stable Audio 的原創音效,打造令人驚豔的視覺效果及繪圖。
省時的 AI 生產力工具
Arm Kleidi 可釋放 Armv9 CPU 的效能,以加速群組聊天摘要及學習助理示範的回應時間。透過易於理解的格式,將多個訊息或電子郵件迅速去蕪存菁列出關鍵要點。立即提供實用事實及解釋。
聊天機器人演進發展成為即時助理
結合 LLM 與自動語音辨識和語音產生模型,就有機會實現保留情境的即時對話。在飛航模式中示範執行此項虛擬助理,展現 Arm CPU 完全在裝置內處理生成式 AI 工作負載的能力。
最新消息及資源
- 最新消息及部落格
- 白皮書
- 指南
- 報告
行動裝置人工智慧
Arm 如何實現無所不在的行動裝置人工智慧
探索在 Arm 架構上的人工智慧幕後數據。本資訊圖表顯示 Arm 運算平台如何協助開發人員及裝置製造商,為全球數十億名使用者提供次世代人工智慧驅動體驗。
在 Arm 架構上的人工智慧工作負載
瞭解 CPU 上的人工智慧推論指南
在 CPU 執行人工智慧工作負載的需求持續成長。我們的實用指南探討 CPU 推論在各種領域 (包括行動裝置人工智慧) 的效益及考量因素。
行動裝置人工智慧
人工智慧:快速推升行動繪圖的未來
瞭解行動裝置的人工智慧工作負載如何創造先進的運算功能及效能,進而轉化為更出色的行動繪圖、智慧型互動及沉浸式遊戲體驗。
關鍵重點
Key Takeaways
- 裝置內生成式 AI 使用 Arm 運算平台提供高效能、高效率及易於取得的行動智慧功能。
- AI 模型快速進展,帶動超越傳統硬體功能的軟體需求。
- Arm 在運算堆疊中推動創新,因應行動裝置 AI 工作負載與日俱增的複雜度問題。
- 此平台確保高效率效能及擴展能力,可直接在行動裝置執行生成式 AI。
- 行動應用程式可受益於快速回應的智慧型 AI 體驗,而前述體驗是由 Arm 基礎運算技術提供支援。
保持聯繫
訂閱最新動態即可掌握最新消息、個案研究與洞見。