Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

NVIDIA GH200が動いているっポイ

はじめに

XにNVIDIA GH200が動いているっポイ投稿がありましたので、記録のために残します。

lspci

下記の投稿では、lspci のログが載っています。

記録のために画像を引用します。72コアで最大周波数 3429MHzで動いているのがわかります。NUMAノードが9個で、ノード0に72個のCPUがあることが分かります。

下記の投稿では、各ノードのメモリ容量が分かります。

記録のために画像を引用します。ノード0に480GB、ノード1に96GBのメモリがあります。ノード0が CPUであるGrace、ノード1がGPUであるHopperになると思うのですが、ノード2から8まではなんなのでしょうかね。。

おわりに

GH200の性能って、どのくらいなんでしょうかね。。。

H100 => Grace へのメモリにアクセスした時の性能を知りたいですね。

上記の投稿の内容、微妙に違いますね。

With 144 Terabytes of shared memory and 141 GB HBM3e memory.

144 TBは1個のGraceではなく、DGH GH200の最大構成の 256台のGH200が接続した時の全体の容量 今出ているGH200のGPU側のメモリは、96GB。141GBは HBM3eになった場合。

900GBps

片側 460GB/s x 2 = 900GB/s