實現四倍提升!首個 Arm KleidiCV 整合 OpenCV 4.11 加速行動裝置電腦視覺工作負載
現在開發人員可為基於 Arm CPU 建構的電腦視覺應用實現更卓越的效能
生成式及多模態人工智慧 (AI) 工作負載的廣泛成長,推升了對電腦視覺 (CV) 技術的需求。此類技術能夠解釋並分析來自現實世界的視覺資訊,並可應用於人臉識別、照片分類、濾鏡處理及擴增實境等多種應用中。然而,這些電腦視覺應用程式在行動裝置上可能難以達到最佳的延遲和處理速度,特別是因為行動裝置在記憶體、電池和處理能力方面都面臨限制。
Arm KleidiCV 便能在其中大顯身手。該開源函式庫運用最新 Arm CPU 中的高效能影像處理功能,可被整合至各類電腦視覺框架中,進而簡化並加速電腦視覺工作負載的效能最佳化,無需開發人員進行額外操作。這一點對於行動裝置來說相當重要。加速影像處理是為多樣的 AI 應用場景打造更輕量化、更準確,且效能更強大的模型的第一步,也是關鍵的一步。此外,也可為使用者在維持電池壽命的同時,使電腦視覺功能運行得更加快速。
KleidiCV 透過與全球最大的開源電腦視覺庫 OpenCV 實現新的整合,使全球數百萬電腦視覺開發人員都可運用以進行效能加速。該項整合現已上線,Android 系統使用者可透過 OpenCV 4.11 預設獲取,這為 Android行動市場中,於 Arm 架構裝置上的電腦視覺應用,提供了前所未有的效能強化。
KleidiCV 與 OpenCV 整合的效能優勢
OpenCV 是全球電腦視覺開發人員的首選平台,OpenCV Python 套件的日均下載量超過 30 萬次。KleidiCV 與 OpenCV 的整合(由 Maven 程式碼倉庫存取)透過直接對應到能夠為電腦視覺工作負載提供一系列加速功能的底層 Arm 架構和特性(如 Neon 和 SVE2),進而為電腦視覺開發人員實現自動的效能強化。
去年,Arm 同步推出了 KleidiAI 和 KleidiCV。KleidiAI 函式庫為整合至 AI 框架提供目標核心,並在 Arm CPU 上無縫地加速傳統機器學習和生成式 AI 模型。發佈時的初始基準測試顯示,OpenCV 上的各類影像處理任務的典型效能提升了 75%。
透過將 KleidiCV 整合到 OpenCV 4.11,我們觀察到效能提升了高達四倍,進而能夠為物件檢測和識別,以及圖像分割中使用的關鍵影像處理任務加速電腦視覺運算,並達成更快的回應時間。這些任務包括:
- 模糊,透過減少高頻率細節來強化圖像以進行物件檢測;
- 濾鏡,用於銳化和平滑圖像;
- 旋轉,對齊圖像以進行物件識別;
- 調整大小,降低處理大尺寸圖像時的運算負載。
KleidiCV 的主要特性和優勢
KleidiCV 透過自動檢測運行它的硬體,並相應地選擇最佳實作來簡化開發過程。這代表開發人員無需手動優化其程式碼即可達到更高效能。KleidiCV 的其他主要特性和優勢包括:
- 多執行緒:該特性可加速處理,並實現更卓越的效能。
- 廣泛的適用性:KleidiCV 支援包括影像處理和調整大小等在內的各種工作負載,與汽車、消費性電子類技術和基礎設施市場中的廣泛應用均息息相關。
- 內置安全性:Arm 的 安全性開發生命週期(Security Development Lifecycle)已被嵌入至 KleidiCV 的功能中。
OpenCV 4.11 的強化功能和更新
- 改進的 DNN 模組,透過 InferenceEngine 後端為 3D 卷積網路和非同步推論提供初始支援。
- 強化的 Calib3d 模組, 用於 solvePNP 和姿態優化例程的新 IPPE 演算法。
- 優化的通用內建函式,提供 AVX-512 實作和其他優化,以達到更加出色的效能。
塑造電腦視覺工作負載的未來
KleidiCV 的首次整合現已完成,我們不斷彰顯軟體優化如何在行動裝置端的 Arm CPU 上充分釋放新的電腦視覺效能和功能。這不僅為行動裝置端,更是為其他多樣化的應用市場(例如機器人、汽車和醫療應用等)的電腦視覺工作負載和模型加速做好準備。
透過運用 Arm CPU 的強大效能和 OpenCV 的廣大開發人員,OpenCV 4.11 與 KleidiCV 的整合能夠為各類電腦視覺應用帶來顯著的效能強化。借助 KleidiCV 和 Arm 領先的運算平台,Arm 正在塑造電腦視覺在行動裝置端與其他更多領域的未來。
欲詳細瞭解 KleidiCV 與 OpenCV 的整合,以及由此實現的效能優化,請瀏覽以下 Learning Path 連結:
https://learn.arm.com/learning-paths/mobile-graphics-and-gaming/android_opencv_kleidicv/
關於 Arm
Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,000 萬名軟體開發人員的共同努力,我們正在 Arm 平台上建構 AI 的未來。
所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2025 Arm Limited.