はじめに
NVIDIAのRubinは、Veraと一緒に使うのかと思っていましたが、
- DGX Rubin NVL8
なるプロダクトがあるのを知りました。
DGX Rubin NVL8
下図は、上記のサイトにあった DGX Rubin NVL8 の写真です。説明のために引用します。
下記は、上記のフロントの部分を拡大したものです。
2Uですね。
上段に、
- BlueField-4
- SSD x 8
- BMC (1 x RJ45 BMC, 1 x USB, 1 xMiniDP, 1 x RJ45 LAN)
下段に、
- ConnectX-9 : 4 + 4
になっています。たぶん、
では、内部がどのようになっているかを妄想します。
DGX B300 を振り返る
から、DGX B300 の中がどうなっているのかを振り返ります。
から、
上段に
- ConnectX-8 : 4 + 4
中段に、
- BlueField-3 + SSD x 8 + BlueField-3
下段に、
- BMC (1 x RJ45 BMC, 1 x USB, 1 xMiniDP, 1 x RJ45 LAN)
になっています。
DGX B300 の CPU Tray を上から持たもの
DGX B300 の GPU Tray を上から見たもの
GPU Tray の左側に ConnectX-8 x 8、右側に ConnectX-8 のコネクタが 8
Rubin NVL8 を妄想
上段
- CPU Tray : CPU + BlueField-4 + SSD x 8 + BMC
下段
になっているのだと思います。
水冷になったことで、CPU Tray, GPU Tray をそれぞれ、1U に入れられるようになったんでしょうね。
Vera + Rubin のように、裏側には、NVLink は出ていないでしょうね。
おわりに
Rubin では、もう x86_64 を使わないと思っていましたが、今回の Rubin NVL8 にてプロダクトが出てきました。
CPUは、Intel® Xeon® 6776P 、Granite Rapids なので、PCIe は Gen5 です。
この部分は、Vera + Rubin の NVLINK-C2C の 900GB/s (片方向)、1.8TB/s (双方向)に比べると、めちゃくちゃ細いです。といっても、8個のRubinを2個のXeonなので、CPUの数が半分です。
ConnectX-9 側に関するものは、Vera + Rubin と同じなので、新規に開発したのは、この DGX Rubin NVL8 というものだけなんでしょうね。
