Arm 深知軟體在釋放 AI 潛力方面的重要性，因此致力協助開發人員快速且規模化地構建 AI 應用。

正如 Arm 軟體資深副總裁 Mark Hambleton 在《2025 年晶片新思維》報告中所說：「AI 的未來發展離不開軟硬體的協作。」

然而，在新發表的由 Arm 贊助的《CIO 報告》中所述，開發人員工作流程的碎片化，限制了他們創建和擴展新 AI 應用的速度，這也成為目前開發人員面臨的最大挑戰之一。

Arm 深知軟體對於釋放 AI 的真正潛力相當重要，因此從基礎架構和整個技術堆疊入手，致力於簡化 AI 開發流程，並支援新的 AI 應用和工作負載，以實現無縫的效能加速。

基礎架構

做為軟硬體之間的重要介面，Arm 持續發展其自身架構。如今，從雲端到邊緣端的廣大市場中，Armv9 架構已成為智慧手機、資料中心、高效能運算和汽車應用等領域的現代技術基礎。

Arm 不斷為最新架構導入新功能，例如之前推出的可擴展矩陣延伸指令集（SME）和可擴展向量延伸指令集（SVE2），有助於在各類應用中加速生成式 AI 和常見的機器學習（ML）工作負載。SME 藉由在通用指令集中導入複雜矩陣處理能力，使開發人員能夠在其 AI 應用中實現優異出眾的效能，並可無縫遷移到不同的生態系。這不僅能擴大運行 AI 工作負載的硬體範圍，還能顯著提升使用者體驗。

CPU 對開發人員的價值

上述架構特性都整合在 Arm 的 CPU 中，使其成為軟體開發人員的首選平台。這是因為它們從雲端到邊緣的廣泛採用，以及做為多數 AI 推論工作負載即時目標的高適用性──這些工作負載如今廣泛運行於數十億裝置上，例如智慧型手機，以及全球的雲端與資料中心。透過以 CPU 為目標平台，開發人員能以更廣泛的資料格式執行更豐富多樣的軟體，無需為專用 NPU 建構多個版本的程式碼。

CPU 為開發人員提供其所需的一致性，避免定制硬體解決方案帶來的碎片化和效率低下。正如 Hambleton 在《2025 年晶片新思維》報告中指出：「AI 框架的互通性是開發人員的核心訴求。因此開發人員通常默認選擇 CPU 後端，因為 CPU 的普遍性可確保更廣泛的相容性。」

此外，推動 AI 工作負載擴展的因素不僅限於架構的進步。在該《CIO 報告》中，Arm 機器學習工程副總經理 Nick Horne 表示，AI 已從依賴雲端的龐大模型，演變為可在邊緣端或終端運行的更小、更高效率的模型。他指出：「如今，有些出色的模型可在你隨身攜帶的裝置上運行，並可提供高品質的結果，某些情況下甚至能夠完全在 CPU 上運行。」

對開源不變的承諾

Arm 與開源社群廣泛合作，致力於推動 AI 的普及，為開發人員提供便捷途徑，使他們能夠輕鬆獲取來自 Arm 廣大生態系合作夥伴的硬體，及時且充分地運用其中的最新架構特性和效能。

Horne 在《CIO 報告》中強調此方法為開發人員帶來的優勢。他指出：「採用具有良好硬體抽象的開源 AI 框架，能夠有效避免對靈活性產生的影響。」如此一來，開發人員無需受限於特定硬體、雲端服務供應商或軟體平台。

Kleidi 協助輕鬆加速 AI

Arm Kleidi 在相當程度上體現了上述優勢的實際應用效果。Kleidi 支援開發人員所需技術、資源和微核心庫，能為在 Arm CPU 上運行的模型輕鬆實現 AI 工作負載加速。由於 Kleidi 函式庫已整合到主流的開源 AI 框架和 Runtime 中，包括 Google 的 MediaPipe、Meta 的 ExecuTorch 和 PyTorch、llama.cpp，騰訊的 Angel，以及阿里巴巴的 MNN。開發人員無需額外作業，即可獲得效能優化，進而節省時間、精力和成本。Kleidi 現已整合至 Arm 技術服務的所有市場，包括行動端、雲端、資料中心、汽車和物聯網領域。

與產業領先者的生態系合作

從更廣泛的層面來看，Arm 透過產業領先者的軟體生態系，與眾多合作夥伴展開協作，致力於安全、大規模地部署 AI。例如，我們與 GitHub 就 GitHub Runners 專案展開合作，使開發人員能夠更有效率地在雲端測試和部署訓練好的模型。近期，針對 GitHub CoPilot 的 Arm 擴展程式為開發人員提供了完全整合的原生 Arm 工作流，包括準確的程式碼生成、測試應用場景創建和錯誤修復功能。

此外，Arm 還透過各種措施推動底層軟體和韌體部署的簡化和加速，實現順暢的軟體發展。Linaro OneLab、Trusted Firmware 和 PSA Certified 等專案促進了各方協作，並為快速發展的邊緣端 AI 和高效能物聯網領域的安全軟體部署和支援提供藍圖。在汽車產業，Arm 發起的嵌入式邊緣可擴展開放架構（SOAFEE），致力於提供基於標準的框架，以實現軟體的重複使用並促進規模化，進而縮短開發週期，滿足軟體定義汽車（SDV）應用中對更多 AI 的空前需求，同步提升駕駛體驗。

開放標準推動創新

最後，缺乏標準化實踐可能會阻礙創新，還可能在未來給開發人員製造複雜難題。開放標準使開發人員和研究人員可在不同平台之間無縫切換，同時專注於訓練、量化和部署，透過模型的持續創新創造價值。

借助軟體加速 AI 創新

為了讓 AI 技術充分發揮潛力，軟體發展流程需要加速、開放並簡化。Arm 技術及其生態系透過專注於開放標準、硬體抽象，並與不斷演變的框架保持相容，協助實現因應未來的 AI 開發。開發人員因此能夠在不同硬體上無縫創建和部署 AI 應用、模型和工作負載並提升效能，進而在基於 Arm 平台為 AI 時代打造更優質的軟體。

關於 Arm

Arm 是業界效能最高且最節能的運算平台，其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求，Arm 提供先進的解決方案，使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,200 萬名軟體開發人員的共同努力，我們正在 Arm 平台上建構 AI 的未來。

所有資訊都「依目前情況」提供，且並不帶保證或代表性。此文件可以自由分享，但不得修改且必須註明出處。Arm 是 Arm Limited（或其子公司與附屬機構）的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2025 Arm Limited.