NVIDIA、AI研究者にGrace Blackwellプラットフォームへのアクセスを提供するAIスパコン「NVIDIA Project DIGITS」を発表

NVIDIA(エヌビディア)は、1月6日、世界中の AI 研究者、データ サイエンティスト、学生に NVIDIA Grace Blackwell プラットフォームのパワーへのアクセスを提供するパーソナル AI スーパーコンピューター「NVIDIA Project DIGITS」 を「CES」で発表した。

Project DIGITSには、新しい NVIDIA GB10Grace Blackwell Superchip が搭載されており、大規模な AI モデルのプロトタイピング、ファインチューニング、実行にペタフロップスの AI コンピューティング パフォーマンスを提供する。

Project DIGITS を使用すると、ユーザーは独自のデスクトップ システムを使用してモデルで推論を開発および実行し、その後、高速化したクラウドまたはデータ センター インフラにモデルをシームレスに展開できる。

NVIDIA の創業者/CEO であるジェンスン フアン(Jensen Huang)氏は「AI は、あらゆる業界のあらゆるアプリケーションで主流になります。Project DIGITS により、Grace Blackwell Superchip は何百万人もの開発者に提供されます。すべてのデータ サイエンティスト、AI 研究者、学生のデスクに AI スーパーコンピューターを置くことで、彼らが AI に関わり、AIの時代を形作ることができるようになるでしょう」とコメントした。

・GB10Superchip がペタフロップスの電力効率に優れた AI パフォーマンスを提供
GB10Superchip は、NVIDIA Grace Blackwell アーキテクチャに基づくシステム オン チップ(SoC)であり、FP4精度で最大1ペタフロップスの AI パフォーマンスを実現する。

GB10は、最新世代の CUDA コアと第5世代 Tensor コア を備えた NVIDIA Blackwell GPU を搭載しており、NVLink-C2C チップ間相互接続を介して、Arm アーキテクチャで構築した20個の電力効率に優れたコアを含む高性能 NVIDIA Grace CPU に接続されている。Arm ベースの SoC 設計の市場リーダーである MediaTek は、GB10の設計に協力し、クラス最高の電力効率、パフォーマンス、接続性に貢献した。

GB10Superchip により、Project DIGITS は標準の電源コンセントのみを使用して強力なパフォーマンスを実現する。各 Project DIGITS には、128GB の統合コヒーレント メモリと最大4TB の NVMe ストレージが搭載されている。このスーパーコンピューターにより、開発者は最大2000億パラメータの大規模言語モデルを実行し、AI イノベーションを加速できる。さらに、NVIDIA ConnectX ネットワーキングを使用して、2台の Project DIGITS AI スーパーコンピューターをリンクし、最大4050億パラメータのモデルを実行できる。

・Grace Blackwell AI スーパーコンピューティングが手の届くところへ
Grace Blackwell アーキテクチャにより、企業や研究者は Linux ベースの NVIDIA DGX OS を実行するローカル Project DIGITS システムでモデルのプロトタイプ作成、ファインチューニング、テストを行い、それらを NVIDIA DGX Cloud、アクセラレーテッド クラウド インスタンス、またはデータセンター インフラにシームレスに展開できる。

これにより、開発者は Project DIGITS で AI のプロトタイプを作成し、同じ Grace Blackwell アーキテクチャと NVIDIA AI Enterprise ソフトウェア プラットフォームを使用してクラウドまたはデータ センター インフラに拡張できる。

Project DIGITS ユーザーは、NVIDIA NGC カタログおよび NVIDIA Developer ポータルで利用できるソフトウェア開発キット、オーケストレーション ツール、フレームワーク、モデルなど、実験およびプロトタイプ作成用の NVIDIA AI ソフトウェアの広範なライブラリにアクセスできる。開発者は、NVIDIA NeMo フレームワークでモデルをファインチューニングし、NVIDIA RAPIDS ライブラリでデータ サイエンスを加速し、PyTorch、Python、Jupyter ノートブックなどの一般的なフレームワークを実行できる。

エージェント型 AI アプリケーションを構築するには、NVIDIA 開発者プログラムを通じて研究、開発、テストに利用できる NVIDIA Blueprint と NVIDIA NIM マイクロサービスも利用できる。AI アプリケーションを実験環境から実稼働環境に移行する準備ができたら、NVIDIA AI Enterprise ライセンスでエンタープライズグレードのセキュリティ、サポート、NVIDIA AI ソフトウェアの製品リリースを利用できる。