NVIDIA GH200 144GB HBM3e

はじめに

NVIDIAのgithub にある NVIDIA Linux Open GPU Kernel Module Source の 565.57.01 に、GH200 144GB HBM3e が追加されました。

GH200 :

NVIDIA の公式文書

• NVIDIA GH200 Grace Hopper Superchip : Benchmark Step-by-Step Guide では、下記のように、HBM は 96GB です。

Data sheet では、

• 96GB of HBM3
• 144GB of HBM3e

となっています。

Memory bandwidth では、

• Up to 4TB/s

• Up to 4.9TB/s HBM3e

• 4TB / 8bit / 6 個 / 1024bit とすると、5.2Gbps

• 4.9TB / 8bit / 6 個 / 1024bit とすると、6.38Gbps

おわりに

ドキュメントにあった、GH200 144GB HBM3e が Open なデバドラに登録されたのですが、結構時間がかかっていますね。。。今まで使われていなかったのでしょうかね。