雲端邁向客製化
作者：Arm 基礎建設業務 副總裁 Eddie Ramirez
AWS、Alibaba、Ampere Computing 和其他公司日益多樣化的 Neoverse 處理器陣容，持續透過資料中心發揮更高效能。
在過去的五年中，Arm 非常高興且驕傲地看到合作夥伴透過 Arm Neoverse 技術提供雲端創新。
僅在過去六個月中，Alibaba Cloud 就發表了採用 128 個 Arm 核心的最佳化雲端運算服務的新伺服器晶片，Google Cloud 與 Intel則宣布了在以 Arm Neoverse 為基礎的 Mount Evans IPU 上的合作，Oracle Cloud Infrastructure (OCI) 透過基於 80 核心 Arm 架構的 Ampere A1 Compute 推出了 OCI 的 Arm架構雲端執行個體，騰訊則推出了採用 Ampere Altra 處理器的 Arm 架構 Cloud Instance-SR1 的試用版。
最近的發展是AWS 宣佈推出 Graviton3，這是一款伺服器應用處理器，效能比前代產品提高 25%，同時減少了 60% 的能耗。
基於在各種工作負載中的成功案例，AWS 持續在性價比方面設立標竿，這些成功案例包括了媒體服務 (NextRoll：總持有成本降低50%)、ERP (Globe3：效能提高 20%，價格減少20%)、風險評估 (LexisNexis：流量增加 30%) 和 3D 建模 (S-Cube：效能提升 30-45%，價格降低 20%)。
這些里程碑也突顯了另一個對數位基礎建設產生深遠影響的整體產業趨勢。也就是說，整體產業趨勢都往可擴充客製化發展。
客製化的旅程
雲端環境最初是以具備協作能力的共等節點，來建構部署橫向擴充的系統。橫向擴充系統可以使用商用硬體來建構，因為此處追求的是數量重於品質。這種方法帶來了顯著的成本效益，並為運算服務推動了以需求為基礎的新消費模式。
雲端服務雖然成長了，但漸漸開始看起來更像是商品化的基礎建設服務，直到 AWS 重新構思了伺服器並對基本運算晶片進行投資而掀起了新一波的差異化，並為客戶創造了更多價值。現在，他們可以大規模的提供獨特、最佳化的體驗。
資料處理單元 (DPU)
以 AWS Nitro 為例，這是一款基於 Arm 架構的系統，用於管理網路、儲存設備、安全性和其他操作功能。這些功能會用掉30% 或更多的 CPU 週期。Nitro 是一個自己擁有軟體堆疊的專用系統，在平行、最佳化的軌道上處理這些功能，而非做為 CPU 的卸載途徑。這樣做的結果是能夠在同一時間減少儲存延遲、提高網路速度、加速應用程式工作負載、降低客戶成本並減少攻擊面。
Nitro 還透過允許 AWS 對新服務採用建構區塊方法，從而加速產品開發。自 2017 年完整的 Nitro 堆疊啟用以來，AWS 提供的執行個體數量增加了 300 多個，也就是四倍。
其他雲端技術供應商在資料處理單元 (DPU) 上也取得了類似的結果。DPU 資源也將啟發新型態的服務。想像一下，DPU 支援人工智慧型的雲端安全服務，以應對日益嚴重的深度偽造 (deep fake) 問題，或者為零時差攻擊開發零延遲的防禦。展望未來，您可能會看到許多資料中心已擁有 DPU 了，這與今日的資料中心有很大不同。
能提供特定效能的新客製化處理器
同樣的，應用處理器也出現多樣的客製化功能。儘管 Ampere 和 AWS 的 Arm Neoverse 架構晶片以及來自阿里巴巴和其他公司的晶片可能具有共同的基礎，但它們在速度、核心數量、設計、效能和功能方面則各有不同。
例如，Graviton2 具有自動化的 256 位元系統記憶體加密功能，以改善一直以來的安全性問題：即客戶未能使加密成為一種普通的商業慣例。Graviton3 將提供顯著的效能改進，包括機器學習推理工作負載增加三倍，並將成為第一個支援 DDR5 記憶體的伺服器 CPU。Graviton3 將為 AWS 雲上的新 EC2 C7g 執行個體提供支援。隨著基於Neoverse 架構更多樣化的設計進入市場，因價格、效能和應用程式而異的執行個體層也將越來越普遍。
在高效能運算 (HPC) 領域，來自英國、印度、韓國、美國和其他地方的研究人員，目前正在建構針對不同目標量身訂做的下一代 Arm Neoverse 晶片。有些人希望建立突破性的功耗效能。其他人則致力於可以逐漸商業化的架構。
可擴充客製化的優勢也將滲透到整個網路和邊緣。這勢在必行。正如我的同事 Panch Chandrasekharan 所說，5G 網路需要管理更多的資料和更複雜的工作負載，同時讓成本與 4G 保持一致、也維持能源控制。開放式架構和客製化的專用晶片結合，使其成為可能。有一個值得關注的計畫，是正在 AWS 骨幹網路上建構的 DISH Networks 全國 5G 網路。這將是美國的第一個雲端化網路。 (DISH 將採用 Graviton 伺服器來滿足其運算需求)。
回顧過去並展望未來十年
如果你在 2011 年問人們未來的資料中心會是什麼樣子，他們可能會以現有資料庫為基礎，想像一個更大型的版本。它可能具備更多的快閃記憶體，或具有一些「軟體定義式」的元素，但整體而言，核心元素將是相同的：雙插槽伺服器的機櫃、可同時處理多個執行緒以及快速排除熱空氣的 CPU。
如今，資料中心是以各種不同的處理器和雲端原生軟體堆疊的產品組合來建構。而且，雖然系統是相容的，但它們的不同之處是前所未見的。隨著越來越多的客戶使用 Arm Neoverse 做為挑戰極限的平台，這樣的多樣性將有增無減。