Vengineerの妄想

人生を妄想しています。

NVIDIA DGX B200 って、ホスト部分は DGX H100 と同じボードを使っているんじゃないかを妄想する

はじめに

NVIDIA DGX B200 の data sheet を眺めていたら、ちょっと気になったので妄想します。

Let’s 妄想

DGX B200

www.nvidia.com

上記のサイトは、数年後には消えるので、下図を記録に残します。

  • CPU
    • 2 個の Intel® Xeon® Platinum 8570 プロセッサ (合計 112 コア、2.1 GHz (ベース)、4 GHz (最大ブースト))
  • システムメモリ
    • 最大 4TB
  • ネットワーキング
    • 4 基の OSFP ポートで 8 基のシングルポートを提供する NVIDIA ConnectX-7 VPI
    • 2 個のデュアルポート QSFP112 NVIDIA BlueField-3 DPU
  • ストレージ
    • OS: 2 個の 1.9TB NVMe M.2
    • 内部ストレージ: 8 個の 3.84TB NVMe U.2

DGX H100

www.nvidia.com

上記のサイトは、数年後には消えるので、下図を記録に残します。

  • CPU
    • デュアル Intel® Xeon® P latinum 8480Cプロセッサ(合計 112 コア)、2.00GHz(ベース)、3.80GHz(最大ブースト時)
  • システムメモリ
    • 最大 2TB
  • ネットワーキング
    • 4 基の OSFP ポートで 8 基のシングルポートを提供する NVIDIA ConnectX-7 VPI
    • 2 基のデュアルポート QSFP112 NVIDIA ConnectX-7 VP I
  • ストレージ
    • OS: 2 個の 1.9TB NVMe M.2
    • 内部ストレージ: 8 個の 3.84TB NVMe U.2

DGX H100 => DGX B200 の差分

  • CPU : 8480C(2.00GHz/3.80GHz) => 8570(2.10GHz/4.00GHz)、ただし、コア数は同じ
  • システムメモリ(最大) : 2TB => 4TB
  • ネットワーキング : 2個のデュアルポート QSFP112 NVIDIA ConnectX-7 VPI => 2 個のデュアルポート QSFP112 NVIDIA BlueField-3 DPU

ネットワークが ConnectX-7 VPI から BlueField-3 DPU になったぐらいですね。

DGX H100の時は、IntelがSapphire Rapidsの公式発表がかなり遅れました。そのため、NVIDIAがDGX H100のData Sheetにはかなり長い間、CPUのところが x86_64 としか書いていませんでした。それが理由かどうかわかりませんが、まだ、発表していていないCPUは載せないとなると、今年の後半に出る Granite Rapids ではなく、昨年(2023)年後半に出した Emerald Rapids を搭載しているんでしょうね。

そして、コア数が同じ、たぶん、Packageも同じなのでです。

となると、ホスト側のボードは同じじゃないのかな?つまり、この部分は新規開発をしていない。

また、Emerald Rapids は PCIe Gen5 までですが、NVIDIA Blackwell は PCIe Gen6 です。

Intel が PCIe Gen6 をサポートする時期は?

Intel が PCIe Gen6 をサポートする Xeon は、2025年の Diamond Rapids のようです。

つまり、

  • 2023 : Emerald Rapids (Gen5)
  • 2024 : Granite Rapids (Gen5)
  • 2025 : Diamond Rapids (Gen6)

となり、DGX B200 の Emerald Rapids ではなく、Granite Rapids でも Gen5 のままになる。

Rubin で、DGX R200 なるものが出るのなら、Diamond Rapids になる感じですかね。。。Rubin、Gen6なんでしょうか。。。

おわりに

GTC2024の発表でNVIDIAの一押しは、DGX B200ではなく、DGX GB200 推しが気になっていましたが、DGX B200 の仕様をよくよく見てみると、GPUはBlackwellだけど、ホスト側はそのままでは?となりました。

NVIDIAは自社でGraceを作り、GPUと接続する技術を確立したので、もう、x86_64 は無くても困らない状況なんですかね。。。。

それでは、今回はここまでで

Let’s 妄想