はじめに
NVIDIA B100を妄想するの3回目。1回目、2回目は下記にあります。
今回は、DGX B100 について妄想します。
DGX B100
DGX になるホストの部分を妄想します。DGX A100では、AMD EPYC ROME だったけど、DGX H100 では、Intel Sapphare Rapids。
DGX B100 でも Intel だと思うので(以前、革ジャンCEOはIntelのCPUの評価しているとか言っていたのでたぶんそうでしょう)
Intelだと、2024年は Granite Rapids になりそう。Granite Rapids の仕様を確認すると。
から、
IO Chiplets : 136 lanes まで (PCIe 5.0/CXL 2.0)、6 個の UPI (144 lanes) Memory Controller : Granite Rapids は 1つの Compute Chiplet に4個、Sierra Forest は 4個 Granite Rapids は、1 ～ 8 dies、Sierra Forest は、1 ～ 2 dies
になり、PCIe は 5.0 ただし、CXL は 2.0。 lane数は 136まで。
16 x 8 = 128 + 8。IO Chiplets なので、2個になり、IO Chiplet 1個だと、PCIe 5.0/CXL 2.0 x16 が 4個と、x4 が1個になってそうです。
- Sapphare Rapids は、PCIe Gen5 80 lanes
- Emerald Rapids は、PCIe Gen5 80 lanes (48 lanes north, 32 lanes south of the socket, PCIe 5.0 support, 20 lanes of PCIe 3.0, x8 DMI at PCIe 3.0)
となると、PCIe は、DGX H100 と同じになり、Host <=> GPU 間の転送帯域は変わらないことになります。
これって、何かのボトルネックにならないのかしら？
おわりに
今回は、DGX B100 に関して妄想しました。
Host側が PCIe Gen5 なら、B100 も PCIe Gen5 になるんでしょうかね。。。どうなんでしょうか？
NetworkもConnectX-7(400Gbps)のままなんでしょうね
