Nvidia Corp.は、成長分野における同社の優位性を確固たるものにすることを目的として、チップの容量とパフォーマンスを向上させる改良型AIプロセッサを発表した。 NVIDIA GH200 Grace Hopper は、2024 年の第 2 四半期に発売される予定です。
Nvidiaは火曜日、ロサンゼルスで開催されたSiggraphカンファレンスで、ハイブリッドグラフィックスチップとCPUであるGrace Hopper Superchipが新しい形式のメモリの恩恵を受けると述べた。 このデバイスは、毎秒 5 ギガバイトという驚異的な速度でデータにアクセスできる高帯域幅メモリ 3 (HBM3e) をベースにしています。
Nvidia の最新の発表は、以前に発表された HBM3 を搭載した GH200 に続くもので、現在生産中で今年後半に発売される予定です。 これは、NVIDIA が同じデバイスの 2 つのバージョン、つまり 1 つ目は HBM3 を使用し、2 つ目は HBM3e を組み込むことを意味します。 Nvidia はまた、次世代 GH200 は HBM3e メモリのおかげで現行モデルよりも 3.5 倍速く AI モデルを実行できるだろうと述べています。
Nvidia GH200 Grace Hopper: 72 コア Grace CPU 上に構築
新しい GH200 Grace Hopper スーパーチップは、480 GB の ECC LPDDR5X メモリを備えた 72 コア Grace CPU、および 6 つの 24 GB スタックに 141 GB の HBM3E メモリと 6,144 ビット幅のメモリ インターフェイスを備えた GH100 計算 GPU をベースにしています。 NVIDIA は物理的に 144 GB のメモリを搭載していますが、歩留まりを高めるためにアクセスできるのは 141 GB のみです。
NVIDIA の現在の GH200 Grace Hopper スーパーチップは、4 TB/秒未満の帯域幅を持つ 96 GB の HBM3 メモリを備えています。 これと比較して、新しいモデルではメモリ容量が約半分、帯域幅が 4 分の 1 以上増加します。 このような大幅な機能強化により、新しいプラットフォームでは以前のバージョンよりも大規模な AI モデルを実行できるようになり、パフォーマンスが大幅に向上しました。
Microsoft と NVIDIA が合意に署名 Nvidia GeForce Now へのゲームパス
Nvidiaは、これは数年前のA100の40GBおよび80GBバージョンと同様に、同じコンポーネントの構成が異なるためであると主張しています。 実際のところ、少なくとも現時点では、RAM のロードアウトが主な違いです。 現行世代の GH200 にある 96 GB の HBM3 vRAM と 480 GB の LPDDR5x DRAM の代わりに、「次世代」GH200 には 141 GB の HBM3e と 500 GB の低速 400 GB/秒 LPDDR5x が搭載されています。 前回の反復では 512GB/秒 LPDDR5x DRAM が使用されました。
Nvidia はしばらくの間、Grace Hopper スーパーチップの開発に取り組んでいます
同社が暫定計画を明らかにした少なくとも2021年以来、Grace HopperスーパーチップはNvidiaのCEOにとってホットな問題となってきた。
スーパーチップは、モバイル デバイスで広く使用されており、Intel および AMD の x86 ベース テクノロジと競合する Arm アーキテクチャに基づいて構築されています。 Arm ベースの Nvidia Grace CPU と Hopper GPU アーキテクチャを組み合わせているため、Nvidia では「スーパーチップ」と呼ばれています。
Grace Hopper スーパーチップは、Nvidia GH200 Grace Hopper の最新バージョンで世界最速のメモリである HBM3e によって強化されています。 Nvidia によると、HBM3e メモリは、GH200 の現行バージョンに含まれる HBM3 テクノロジーよりも最大 50% 高速です。
Nvidia コンピューテックス 2023 ゲームの未来をもたらす
「私たちはこの新しい GH200 にとても興奮しています。 141ギガバイトのHBM3eメモリを搭載する。 Venture Beat によると、HBM3e は、GPU に接続されるメモリの容量と量が増加するだけでなく、はるかに高速になります」と、Nvidia の副社長兼ハイパースケールおよび HPC 担当ゼネラルマネージャーの Ian Buck 氏が記者およびアナリストとの会合で述べました。
Nvidia は、より高速なハードウェアを開発するだけでなく、新しいサーバー設計での拡張も行っています。
Buck 氏は、Nvidia が次世代の Grace Hopper スーパーチップを 2 つ搭載する新しいデュアル GH200 ベースの Nvidia MGX サーバー システムを開発中であると述べました。 同氏はさらに、新しいGH200はNvidiaの相互接続技術であるNVLinkを使用してリンクされると述べた。
新しいデュアル GH200 サーバーの CPU と GPU は両方とも、NVLink のおかげで完全にコヒーレントなメモリ接続と結合されます。
Nvidia GH200 Grace Hopperの発売日
NVIDIA によると、HBM3 を搭載した GH200 Grace Hopper プラットフォームは現在生産中で、来月には市販される予定です。 対照的に、HBM3e を搭載した GH200 Grace Hopper プラットフォームは現在サンプル中であり、2024 年の第 2 四半期に完成する予定です。
NVIDIA によると、新しい GH200 Grace Hopper は、以前のバージョンと同じ Grace CPU および GH100 GPU テクノロジを採用しているため、それ以上の変更やステップアップは必要ありません。
注目の画像クレジット: エヌビディア
Source: こちらは新しい Nvidia GH200 グレース ホッパーです
