GTC 2024 は盛況のうちに始まり、NVIDIA は次世代 AI アクセラレータを発表しました。 B200 そして GB200 革新的な Blackwell アーキテクチャに基づいて構築された GPU。
これらのプロセッサは、AI コンピューティングにおける大きな一歩を表しており、ますます複雑になる現代のワークロードに対処するように設計されています。
B200 は記録破りのトランジスタ数を備えたモノリシック設計を誇り、GB200 はマルチチップ アプローチを採用し、複数の B200 のパワーと Grace CPU を組み合わせて比類のないパフォーマンスを実現します。
これらの GPU を組み合わせることで、処理能力とメモリ容量が大幅に向上し、人工知能に大きく依存する多くの分野の進歩への道が開かれます。
モノリシックの驚異 NVIDIA B200
NVIDIA B200 は、2,080 億個という驚異的なトランジスタ数を誇るエンジニアリングの傑作です。 この驚くべき偉業は、2 つの巨大なダイがシームレスに統合されたチップレット設計によって可能になりました。
B200 は強力な計算能力を備えており、Hopper ベースの前モデルと比較して FP64 高精度計算パフォーマンスが 3 倍向上しています。
おそらく最も印象的なのは、B200 の AI 推論タスクの能力です。
NVIDIA は、この GPU は H200 と比べて 5 倍という驚異的な改善を実現すると主張しています。 このパフォーマンスの飛躍的な向上は、大規模言語モデル (LLM) や推論に大きく依存するその他の AI アプリケーションを展開する場合に重要です。
技術界の有力者向けに、Nvidia B200 の技術的な詳細をすべてここに示します。
| 仕様 | 詳細 |
| 建築 | ブラックウェル |
| 製造工程 | TSMC N4P (カスタム 4nm クラス) |
| トランジスタ数 | 2,080 億 (2 つのチップレット全体) |
| メモリの種類 | HBM3E |
| 記憶容量 | 192 GB (24 GB スタック x 8) |
| メモリ帯域幅 | 8TB/秒 |
| NVLinkインターフェース | 1.8TB/秒 |
| FP64の計算パフォーマンス | H100 と比較して 3 倍の改善 |
| AI推論パフォーマンス | H100 と比較して 5 倍の改善 |
GB200 は Grace アーキテクチャと Blackwell アーキテクチャを組み合わせたものです
GB200 は、超低電力 NVLink チップ間相互接続を介して 2 つの B200 GPU の能力と Grace CPU を結合することにより、「スーパーチップ」の概念をさらに進化させています。
この構成は、最も要求の厳しい AI ワークロードに合わせて調整された、さらに優れたパフォーマンスとメモリ容量を提供します。
GB200 の機能は次のとおりです。
- 膨大なメモリ容量: のメモリ要求を処理するように設計されています。 兆パラメータAIモデル
- 高速ネットワーク: NVIDIA Quantum-X800 InfiniBand および Spectrum-X800 イーサネット プラットフォームのサポート 超高速 800Gb/s 速度
- マルチノードのスケーラビリティ: GB200 は、最高レベルの計算能力を実現する水冷ラックスケール システムである NVIDIA GB200 NVL72 の基盤を形成します。
GB200のスペックを簡単にまとめると次のようになります。
| 仕様 | 詳細 |
| 建築 | ブラックウェル |
| コンポーネント | 2x B200 GPU + NVIDIA Grace CPU |
| 相互接続 | 900 GB/秒の超低電力 NVLink (チップ間) |
| 記憶容量 | 384GB HBM3E |
| 合計メモリ帯域幅 | 16TB/秒 |
| ネットワーキングのサポート | NVIDIA Quantum-X800 InfiniBand (800 Gb/s)、Spectrum-X800 イーサネット (800 Gb/s) |
| システム構成 | GB200 NVL72 (水冷、ラックスケール) |
B200 と GB200 の潜在的な影響は、数多くの業界やアプリケーションに広がります。
その強力なアクセラレーションは、アート、テキスト、コードなどの作成方法を変える大規模な生成 AI モデルのトレーニングとデプロイに最適です。
B200/GB200 は、自然言語処理やレコメンデーション システムなどの分野でサービスを強化します。 研究者は、創薬、気候モデリング、材料科学などの分野でも精度とスピードを得ることができます。
大規模なブラックウェル
NVIDIA は、GB200 Grace Blackwell スーパーチップの能力を活用するために設計された DGX SuperPOD を同時に発表しました。 このターンキー ソリューションは、業界をリードする信頼性で生成 AI ワークロードをスケーリングするための最適化されたプラットフォームを提供します。
AI 加速の未来
NVIDIA B200 および GB200 は、AI コンピューティングの大きな進歩を表し、強力なアクセラレーション ソリューションの新たな最高水準点を示します。
これらの画期的な GPU は、そのパフォーマンスとメモリの利点により、イノベーションを推進し、さまざまな分野にわたって可能性の最前線を押し広げる態勢が整っています。
注目の画像クレジット: pvproductions/Freepik。
