Cloud-Class AI, Now on Your Desk

• Arm Cortex-X925とArm Cortex-A725コアを組み合わせた20コアArm CPUの構成は、オーケストレーション、トークン化、強化学習などの多様なAIタスクをサポートします。
• 統合メモリーアーキテクチャによってCPUおよびGPUの個別のメモリーが取り除かれることで、オーバーヘッドが削減され、エッジで最大2,000億パラメータを持つAIモデルが可能になります。
• ネイティブツールチェーンの移植性により、開発者はクラウド環境とエッジ環境全体でNVIDIAのAIソフトウェアスタックとDockerやKubernetesなどのCNCFツールを使用できます。

AIモデルをローカルで実行すると、応答性、データのプライバシーおよび運用の独立の向上を助けます。開発者や企業にとって、ローカル推論はレイテンシを削減し、センシティブデータの制御を強化し、制限のある接続または接続がない環境下でも信頼性の高いパフォーマンスを保証します。

GBXのようなAIワークステーションは、CPU、GPU、メモリーを単一のコヒーレントなアーキテクチャに統合する、根本的に新しいシステム設計に基づいて構築されています。ArmベースのNVIDIA Grace Blackwellスーパーチップを搭載したGBXプラットフォームは、20のArmコアと次世代Blackwell GPUを組み合わせ、1秒あたり1,000兆回以上の演算（TOPS）および128GBの統合LPDDR5xメモリーを実現します。

この統合メモリーにより、1つのシステムで最大2,000億パラメータを持つ大規模なモデルをローカルメモリーに完全に収められるため、従来のx86ワークステーションを制限するデータ転送の障害が取り除かれます。GBXは、Arm上で、DGXデータセンターやクラウドインフラストラクチャで使用されているスタックと同じである、NVIDIAの完全なAIソフトウェアスタック（CUDA、TensorRT、PyTorch、TensorFlow、DGX OS）も実行します。

要するに、GBXは、サーバーラックの使用が必要だったものを6インチ、200WのUSB-C電源キューブに縮小し、ローカルAI開発をクラウドでのGPUレンタルに対する現実的な代替え手段へと変えます。

GBXのようなAIワークステーションにより、かつてはクラウドに限定されていた非常に大規模なモデルの実行と微調整が現実的になります。データをローカルに保ち、コストを予測可能なまま、実際の実験とイテレーションに十分なオンデバイスのパフォーマンスを実現します。クラウドの規模に匹敵することではなく、有意義なAI機能をデスクに直接導入することです。

はい。PyTorch、TensorFlow、Dockerおよびその他の広く使用されているフレームワークを含むNVIDIAのAIソフトウェアスタックは、エミュレーションなしでArm上でネイティブに動作します。開発者は、現在使用しているツールチェーンで、Arm搭載のAIワークステーション上でモデルを構築、トレーニング、展開できるため、シームレスなワークフローとより高速なイテレーションが保証されます。