はじめに

先日のNVIDIAへのアタックによってリークされた情報の中に、GH202 なるものがあることを知りました。GB100 や GB202 もあるようです。

wccftech.com

GH100 は、先日に発表があった H100 のシリコン。GH202 はまだ発表されていませんが、何れ出てくるんでしょうかね。

再度、GH100を眺めてみる

下図は、GTC 2022の基調講演のここからからの引用です。

パッケージの部分を拡大したものが、下図です。

左側の上、赤い部分は、PCIe Gen5 x16 ですかね。

黄緑のところは、HBM PHY ですかね。

左の青の部分は、NVLink v4 x18 ですかね。全部で 18 x 2 あるのでしょうでしょうね。。

GP100 の White paper のPage.24の Figure 18を見てみると、HSHUB に、PCIe と NVLINK が接続しているので、まー、あっているでしょう。

そして、右側にある。5 x 2 は、die 間接続の何かでしょうか？

おわりに

GH202 は、GH100を上記の部分で対抗で接続したものなんですかね。そうなると、AMDの MI250っぽい感じになるんでしょうかね。Silicon Interposerのサイズから2つの die 間は、Silicon Bridge で接続するようなものになるんでしょうかね。。。それとも、H100のパッケージを対向で接続するだけ？

NVLINK v4 では、50GB/s ( 4 x 100Gbps) なんので、5 x 2 となると、250GB/s になりそうです。。。左側の NVLINK v4 x 18 の比べて、倍ぐらいあるので、もしかしたら、100GB/s (8 x 100Gbps) で、500GB/s になっているんでしょうかね。。。あれ、そうなると、GRACEとは、左側のNVLINK v4 x18を使って接続するのではなく、右側の 5 x 2 で接続をして、500 GB/s でチップ間転送しているってことないですかね。。。

そうなれば、GRACEベースの DGX も x86 と同じ 8 x GH100 の構成が取れそうです。。

追記)、

下記のTweetによると、GH202 はお高いGPUではなく、クライアント(デスクトップ)用っぽい。となると、2022は Ada lovelace (AD102) 、2023 は Hopper (GH202) 、2024 は Blackwell (GB202) になるという感じですかね。あ、GH202 はキャンセルされたという情報もありますね。

https://t.co/pPAFcNK7NN
TSMC 5nmを使用して
NVIDIA GeForce RTX40「AdaLovelace」シリーズの設計が完成との事です

AD102が十分に速くない場合
ホッパーGH202が救助に

LovelaceはNVIDIASoCでも利用

つまりスイッチSUPERの事です
もちろん他にも多数の製品が登場します

RDNA3が強力だからです
— 🌸アヤコさん🌸 (@14ayakosan) 2021年7月25日