はじめに
TwitterのTLを眺めていたら、NVIDIA H100 PCIe 80G のボードの写真が流れてきました。説明のために下記のツイートを引用します。
NVIDIA H100 PCIe 80 GB disassembly by Comino. Nothing we haven’t seen yet, but still impressive to see a 31 power phase design for „just“ 350 watts. There is also a nice comparison to A100 80 GB. pic.twitter.com/BTtAYDNbnf
— Andreas Schilling 🇺🇦 (@aschilling) 2023年7月10日
ソース元は、Youtubeに上がっている
のようです。
H100 PCIe
3ヶ月前にアップされ、まだ10000再生もいっていないようです。
以下説明のためにキャプチャーした画像を引用します。
まずは、蓋を外したところ、ファンはなく、大きなヒートシンクが見えます。右上が補助電源(メイン電源？)からのケーブルが見えます。
裏側の比較です。黒いコンデンサが増えています。H100のようがA100より基板の横方向の長さが短いです。
次は上部にある、NVLink のカードエッジ(3か所)です。H100では、NVLink v4 が全部で 18 ポート出ています。全部使っているのなら、各エッジは 6 ポートになります。
基板の裏面です。コンデンサだらけですね。
裏面の金属が止まっているネジ(4個)を取ることで、表面のヒートシンクが外れます。
表面です。チップ部分のシリコングリスは綺麗に拭き取られた後です。チップの両サイドは電源関連のIC、コイル、コンデンサでいっぱいです。
説明にもありますが、41個のVoltage Regulatorが載っています。H100 PCIe は 350W です。4090と同じ補助電源用コネクタです。
A100 PCIe 80G と H100 PCIe 80G の基板の比較です。VRの数が明らかに違います。
H100 PCIe 80G の水冷版
上記のビデオは、COMINO社のもので最後に水冷版のH100 PCIe 80G が出ていました。下記のサイトに分解写真が載っていました。
説明のためにその分解写真を下記に引用します。これって、NVIDIAが開発したものなのでしょうか？
データシートを見たら、KitということでCOMINO社が開発したもののようですね。
おわりに
下図は、ここから 持ってきたものです。説明のために引用します。VRは60個載っています。
PCIe の時は、HBM2e 80GB、SMX5の時は HBM3 80GB です。電源はPCIe の場合は 12Vの補助電源に対して、SMX5は左下にある電源モジュールが48V or 54VからVR用の電源を作っていると思います。こちらのTDPは700Wです。PCIe 版の倍です。
