Nvidia GraceCPUとNvidiaH100は、Nvidia GTC 2022で発表されました。Nvidiaは本日、次世代のHopperGPUアーキテクチャとHopperH100 GPU、およびGPUと高性能CPUを組み合わせた新しいデータセンターチップを発表しました。 Grace CPUスーパーチップ」（Nvidiaの他のGraceスーパーチップと混同しないでください）。
Nvidia Grace CPU：仕様、価格、リリース日
Nvidia GPU Superchipは、専用のデータセンターCPUでの同社の最初の試みです。 Intelがリークした情報によると、Armベースのチップは驚異的な144コアと1テラバイト/秒のメモリ帯域幅を備えています。 実際には、NvidiaのNVLink相互接続を介して接続された2つのGrace CPUを組み合わせています。これは、AppleのM1Ultraアーキテクチャに匹敵します。
高速LPDDR5Xメモリを搭載する新しいCPUは、2023年前半に提供される予定であり、従来のサーバーの2倍のパフォーマンスを提供します。 Nvidiaは、チップがSPECrate®2017_int_baseベンチマークで740ポイントを達成し、ハイエンドのAMDおよびIntelデータセンタープロセッサと直接対決することを予測しています（ただし、これらの一部はスコアが高くなりますが、ワットあたりのパフォーマンスが低下します） ）。
「新しいタイプのデータセンターが登場しました。膨大な量のデータを処理および改良してインテリジェンスを生成するAIファクトリーです。 Grace CPU Superchipは、最高のパフォーマンス、メモリ帯域幅、およびNVIDIAソフトウェアプラットフォームを1つのチップで提供し、世界のAIインフラストラクチャのCPUとして輝きを放ちます。」
-Nvidiaの創設者兼CEO、Jensen Huang
この新しいチップは、多くの点で、昨年発表されたグレースホッパースーパーチップとCPUの自然な進歩です。 グレースホッパースーパーチップは、CPUとGPUを単一のシステムオンチップ設計に組み合わせています。 2023年前半にもデビューするこのシステムには、大型モデル用の600GBメモリGPUが含まれ、Nvidiaは、メモリ帯域幅が基本サーバーのGPUの30倍になると主張しています。 Nvidiaによると、これらのプロセッサは、「巨大な」AIおよび高性能コンピューティングアプリケーションを対象としています。
Grace CPUスーパーチップは、最大8つのホッパーベースのGPUを備えたスタンドアロンCPUまたはサーバーを作成するために使用できるArmV9ベースのSoCです。
同社は、「主要なHPC、スーパーコンピューティング、ハイパースケール、およびクラウドの顧客」と協力していることを示しており、これらのシステムが最終的にはお近くのクラウドプロバイダーで利用可能になることを意味します。
価格に関する情報はまだ共有されていません。
Nvidia H100 GPU：仕様、価格、リリース日
Nvidiaは、Hopperを使用して多くの新しい改善されたテクノロジーをリリースしていますが、多くのアプリケーションで選択される機械学習手法になり、GPT-3やasBERTなどの電力モデルが最も重要なものになる可能性があるトランスモデルにアーキテクチャを重点を置いています。 。
H100チップの新しいTransformerEngineは、モデルトレーニングを最大6倍高速化することを約束します。この新しいアーキテクチャには、多数のノードをリンクするためのNvidiaの新しいNVLinkスイッチシステムも含まれているため、これらのチップを搭載した大規模なサーバークラスターは、サポートにスケールアップできます。オーバーヘッドの少ない巨大なネットワーク。
「最大のAIモデルは、今日のコンピューティングプラットフォームでトレーニングするのに数か月かかる場合があります。 それは企業にとって遅すぎます。 AI、ハイパフォーマンスコンピューティング、およびデータ分析は、大規模な言語モデルなどの一部のモデルで複雑さを増しており、数兆のパラメーターに達しています。 NVIDIA Hopperアーキテクチャは、成長するネットワークとデータセットを処理するための大規模な計算能力と高速メモリにより、これらの次世代AIワークロードを加速するためにゼロから構築されています。」
-デイブサルヴァトール
新しいトランスフォーマーエンジンでは、必要に応じて8ビット精度と16ビット半精度を組み合わせながら精度を維持できるお客様のテンソルコアが使用されています。
価格に関する情報はまだ共有されていません。