由 Arm 驅動的 NVIDIA Project DIGITS 為數百萬開發人員帶來高效能 AI 算力

January 10, 2025

當前,一個令人振奮的趨勢是,人工智慧(AI)應用和功能正在各種邊緣端裝置上快速擴展和普及。隨著 AI 的不斷發展和進步,對於 AI 研究員、資料科學家、開發人員與學生而言,獲取高效能算力以開發或運行新的模型(如語言模型、視覺模型或多模態模型)變得極為重要。有鑑於 AI 創新的步伐空前加速,我們需要確保開發人員在雲端及邊緣端都能獲得高效能算力,進而直接獲得更多的新功能。

為開發人員實現垂手可得的突破性 AI 效能

在今年的國際消費性電子展 (CES) 上,NVIDIA 創辦人暨執行長黃仁勳在主題演講中發表個人 AI 超級電腦 NVIDIA Project DIGITS,朝著「隨處可開發和部署 AI」的願景又邁進重要的一步。基於 Linux 系統的 Project DIGITS 搭載 Arm CPU 核心,使每位 AI 開發人員都能擁有一套高效能的 AI 桌面系統。

Artificial Intelligence Edge AI

Project DIGITS 採用全新 NVIDIA GB10 Grace Blackwell 超級晶片,搭載 NVIDIA Grace CPUNVIDIA Blackwell GPU、新一代 CUDA® core 和第五代 Tensor Cores,透過 NVIDIA NVLink®- C2C 晶片間互連技術進行連接,並配有 128GB 的一致性記憶體。NVIDIA Grace CPU 搭載先進的高效能 Arm Cortex-X 和 Cortex-A 技術,配置 10 個 Cortex-X925 和 10 個 Cortex-A725 CPU 核心。NVIDIA GB10 超級晶片能以 FP4 運算精度提供高達 1 PFLOPS (1,000 TFLOPs) 的 AI 效能,使開發人員能對 AI 大模型進行原型設計、微調和推論,同時還能與雲端或資料中心環境無縫對接進行協作。

Arm 運算平台的價值

借助無處不在的 Arm 運算平台,新的 AI 模型和應用能更有效率、更快速地在邊緣端運行。在消費性技術市場,不論是用於 Project DIGITS 的最新 Arm CPU,或是整合為 Arm 終端運算子系統 (CSS)的一部分,Arm CPU 技術已成為市場中高效能邊緣端裝置的核心驅動力。這些 CPU 技術經過精心優化,可在各種實際應用場景和工作負載中實現最大效能和最高效率。

Arm 運算平台還兼具靈活性,可針對不同的 AI 應用場景使用不同的運算引擎。在 NVIDIA Project DIGITS 中,基於 Arm 架構的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相協作,使開發人員能夠將這些元件應用於各種工作負載。這種異質運算策略對於最大化 AI 效能,同時管理記憶體利用率和功耗相當重要。

NVIDIA SoC 產品副總裁 Ashish Karandikar 表示:「我們與 Arm 在 GB10 超級晶片的合作上,巧妙地結合了 NVIDIA 的 AI 專業技術與 Arm 可擴展的運算平台,實現了出眾的效能和效率,將推動次世代的 AI 創新。隨著 Project DIGITS 的推出,每位 AI 開發人員和研究員都將能擁有一台功能強大的超級電腦。」

釋放軟體創新的潛能

對於開發人員而言,擁有一個完全整合的軟硬體 AI 平台非常重要。Project DIGITS 使用開源 Linux 作業系統,使用者可以存取資源豐富的 NVIDIA AI 軟體庫,包括 NVIDIA NGC 目錄和 NVIDIA 開發人員入口網站中提供的軟體發展套件、編排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。

Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在資料中心的合作,為資料中心和邊緣端裝置環境提供一致的平台架構,使開發人員能夠無縫地使用同一套工具進行 AI 應用開發。此外,Arm 持續積極推動開源開發人員社群的重要工作,目標在於開發出合適配置的軟體,加速AI 的全面部署。目前,全球已有超過 2,000 萬名軟體開發人員在 Arm 運算平台上構建自己的應用程式,共同推動一個快速創新、日益壯大的開源社群。

賦予高效能 AI 算力的理想平台

做為當前和未來 AI 領域應用最廣泛的運算平台,Arm 自然而然地也成為 Project DIGITS 中 GB10 超級晶片的理想平台。Project DIGITS 是一個功能強大的個人電腦桌面平台,能夠運行高達 200B 參數的 AI 大模型,讓原本的不可能成為可能。這種對 AI 生態系的廣泛影響力,為全球數百萬開發人員帶來靈活、高效能且高效率的 AI 功能。透過與 NVIDIA 及 Arm 強大的軟體生態系緊密的合作,我們拭目以待下一代更加創新的 AI 應用的問世。

關於 Arm

Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,000 萬名軟體開發人員的共同努力,我們正在 Arm 平台上建構 AI 的未來。


所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2025 Arm Limited.