適用於裝置內生成式人工智慧的運算平台
AI Summary
行動運算的裝置內生成式人工智慧仰賴 Arm Lumex 運算子系統 (CSS) 平台,在效能、效率及易於取得等因素之間取得平衡,打造人工智慧原生的進階體驗。隨著人工智慧模型快速演進,Arm 在整個運算堆疊推動創新,確保行動裝置能夠處理要求嚴苛的工作負載。此基礎支援可擴展的人工智慧解決方案,協助應用程式轉型以不同方式提供迅速回應的智慧型功能。
採用人工智慧技術的行動裝置體驗應用
-
生成式人工智慧
-
CPU 推論
-
機器學習
行動裝置上的生成式人工智慧
生成式人工智慧將智慧型手機整合為個人及專業運算的中心。Arm 技術提供高效基礎,推動人工智慧大規模加速,讓創新的生成式人工智慧使用場景 (包括群組聊天摘要及即時助理),完全在行動裝置上執行。
人工智慧創新的基礎
Arm Lumex CSS 是以最新的 Armv9.3-A 架構為建構基礎,提供次世代智慧型手機所需的效能、效率及開發人員就緒整合。Arm Lumex CSS 具備領先業界的每時脈可執行指令 (IPC)、全新旗艦級繪圖處理器,並透過 Kleidi 及 SME2 提供立即可用的軟體支援,協助 SoC 設計人員及 OEM 代工廠商以更快速、更智慧的方式在所有裝置層級加速人工智慧創新。
Armv9 為裝置內生成式人工智慧的基礎。可提供必要的程式設計工具及環境,以便能快速創新以因應迅速擴展的人工智慧市場。這類架構提供更甚以往的運算速度,用於高效能使用場景,並包含安全性功能套件。
Mali G1-Ultra 繪圖處理器以次世代光線追蹤 (RTUv2) 及先進的人工智慧加速功能,在手機遊戲中提供沉浸式圖形。最適合用於旗艦級裝置,結合沉浸式視覺效果、即時智慧功能及節能效能。
Arm Kleidi 與熱門的機器學習框架無縫整合,於 Arm CPU 加速人工智慧工作負載。Kleidi 搭配 Arm 全新可擴展矩陣延伸指令集 2 (SME2),可在生成式人工智慧、自然語言處理、視覺及語音任務上提供零程式碼效能大幅提升 (人工智慧效能提升高達 5 倍),協助開發人員在行動裝置及邊緣裝置輕鬆實現卓越的人工智慧效能及效率。
智慧型手機上的生成式人工智慧
節能的影像產生
Stability AI 與 Arm 正在改變影像與音訊產生方式。Arm 運算平台兼具效能與效率,非常適合使用 Stability AI 的 Stable Diffusion 模型和 Stable Audio 的原創音效,打造令人驚豔的視覺效果及繪圖。
省時的人工智慧生產力工具
Arm Kleidi 可釋放 Armv9 CPU 的效能,以加速群組聊天摘要及學習助理示範的回應時間。透過易於理解的格式,將多個訊息或電子郵件迅速去蕪存菁列出關鍵要點。立即提供實用事實及解釋。
聊天機器人演進發展成為即時助理
結合 LLM 與自動語音辨識和語音產生模型,就有機會實現保留情境的即時對話。在飛航模式中示範執行此項虛擬助理,展現 Arm CPU 完全在裝置內處理生成式人工智慧工作負載的能力。
最新消息及資源
- 最新消息及部落格
- 網路研討會
- 白皮書
- 指南
- 報告
行動裝置人工智慧
Arm 如何實現無所不在的行動裝置人工智慧
探索在 Arm 架構上的人工智慧幕後數據。本資訊圖表顯示 Arm 運算平台如何協助開發人員及裝置製造商,為全球數十億名使用者提供次世代人工智慧驅動體驗。
在 Arm 架構上的人工智慧工作負載
瞭解 CPU 上的人工智慧推論指南
在 CPU 執行人工智慧工作負載的需求持續成長。我們的實用指南探討 CPU 推論在各種領域 (包括行動裝置人工智慧) 的效益及考量因素。
行動裝置人工智慧
人工智慧:快速推升行動繪圖的未來
瞭解行動裝置的人工智慧工作負載如何創造先進的運算功能及效能,進而轉化為更出色的行動繪圖、智慧型互動及沉浸式遊戲體驗。
關鍵重點
Key Takeaways
- 裝置內生成式人工智慧使用 Arm 運算平台提供高效能、高效率及易於取得的行動智慧功能。
- 人工智慧模型快速進展,帶動超越傳統硬體功能的軟體需求。
- Arm 在運算堆疊中推動創新,因應行動裝置人工智慧工作負載與日俱增的複雜度問題。
- 此平台確保高效率效能及擴展能力,可直接在行動裝置執行生成式人工智慧。
- 行動應用程式可受益於快速回應的智慧型人工智慧體驗,而前述體驗是由 Arm 基礎運算技術提供支援。
保持聯繫
訂閱最新動態即可掌握最新消息、個案研究與洞見。