はじめに
NVIDIA Japan の中の人が NVIDIA DGX H100の ConnectX-7 x 4 個搭載のボードの写真をXの投稿として載せてくれたので記録のために残します。
H100 GPUより緊張したのはConnectX-7が4つ統合されたネットワークモジュールの取り外し。GPUよりガッチリ付いてて、最初はこれほんとに外れるのか？と思いました… 締め付けトルクは0.80Nm指定。青いDensiLinkケーブルは一束800Gbpsで1モジュールから2束出てます(=ConnectX-7の4枚分)。 pic.twitter.com/9N8Ymu5f9R
— Kuninobu SaSaki (@_ksasaki) 2024年3月11日
下記のブログにも書きましたが、ConnectX-7 には、PCIe Switch が入っています。Host側と接続する部分で x16、GPU側と接続する部分で x16 の PCIe Gen5 があります。
ConnectX-7 x 4個搭載のボードの写真
無くなると、もったいないので、写真を引用します。
4つのヒートシンクが載っています。コネクタは、2個。コネクタには端子が4列並んでいるのが見えます。1つのコネクタで 800Gbps になっているようです。ConnectX-7は 400Gbpsなので、2チップ分です。 4列なので、1列200Gbps。1列14個の端子が見えます。
ケーブルの部分の写真。こちらも引用します。
8本ぐらい出ていますかね。1本の中でも2本ぐらいンケーブルになっているっポイ。
下記は、NVIDIA DGX H100 の rear side の写真です。NVIDIAのここから説明のために引用します。
同じく、DGX H100 を上から見た写真です。説明のために引用します。
そして、ちょっと戻って、基板を接続するコネクタ部分の拡大します。説明のために引用します。
このコネクタを見て、あ、これ、H100 の長い方のコネクタと同じね。と。
下記のXの投稿の写真を拡大してみます。説明のために引用します。
今日はDGX H100のGPUを取ったり外したりする練習などをしています。ちゃんと規定トルクで締め付けないとGPUが認識されなくて焦ったりします。端子をフーフーするのは禁止です笑 pic.twitter.com/PhRylMXOk1
— Kuninobu SaSaki (@_ksasaki) 2024年3月11日
何となく、同じじゃないですか？
PCIe Gen5 x 16 が 4個、をコネクタで接続していることになりますね。
おわりに
NVIDIAの中の人、どんどん写真をアップしてください。お願いします。
上記の投稿の3枚目の写真のこの部分(説明のために引用します)、なんなのでしょうか？
