はじめに
Xの投稿で知りました。NVIDIAのDGX B300のGPUボードには、ConnectX-8が載るということ。
お、B300 NVL16は、GPU側に ConnectX-8 が載るんですか。H100のPCIe Retimer (右下のヒートシンクの下)の部分に4個載っているModuleが2個搭載される感じなんでしょうかね。
— Vengineerの妄想 (@Vengineer) 2025年4月22日
となる、800Gのケーブルは、どこに行くの？ https://t.co/NfzGFyuFHV
DGX B200 の振り返り
DGX B200 に関しては、下記のブログにて、PCIe は Gen5 であることは確認しました。
Host Board の Xeon が Emerald Rapids なので、PCIe は Gen 5 ですからね。
DGX B300 の妄想
下記のブログで、DGX B300 の妄想も行いました。
この時は、ConnectX-8 は、Host Board に載っていると思っていました。
HGX B300 NVL16
4月15日にアップされた STH の下記の記事に、HGX B300 の写真が何点か載っています。説明のために引用します。
Host Board との接続部の写真。B200 では、PCIe Retimer だったところに、ConnectX-8 が載っているようです。
ヒートシンクを取った時のボード。
- GPU の B300 は、B200 とはちょっと違う構成になっていますね。B300A (1 die) を 2個載せている感じですね。
- ConnectX-8 はボードに直接載っていますね
下記の写真が B200 の写真です。PCIe Retimer が載っているのが分かります。
800G のコネクタは？
下記の写真に、ConnectX-8からの800Gのコネクタが見えます。
こちらに、全体が見える写真がありました。記録に残します。
仕様を確認してみる
B300のdie は、B200のdieから変更が入っているようです。
INT8 と FP64 関連の機能をかなり抑えて、減らした部分を FP4 の Dense の強化 (72 PFLOPS => 105 PFLOPS)
DGX B200とDGX B300 NVL16の違い
— Vengineerの妄想 (@Vengineer) 2025年4月23日
1. INT8とFP64/FP64 Tensor Core を減らして、FP4 Tensor Core (Dense)とAttention Performance の強化
2. メモリ容量 : 1.4TB => 2.3 TB (1.5倍)
2. Network が ConnectX-7 => ConnectX-8 (2倍)https://t.co/JcZY5uKp7x pic.twitter.com/1Uav11EMnL
ASUSのビデオ
おわりに
ConnectX-8 を Host Board ではなく、GPU Board に載せたことにより、Host Board 側の軽くしていますね。
DGX H100 の時の Xeon Sapphire Rapids の苦い思い出があるので、PCIe Gen6 対応の Diamond Rapids がスケジュール通りに出てこなくてもいいような感じにしているのでしょうか？
どうなんでしょうか？
でも取り上げた、DGX H100 の Host Board の写真。DGX B300の Host Boardでは、ConnectX-7の部分が無くなる感じですね。
