Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

Intel GPU Max搭載サーバー

はじめに

このツイートを見て気になったので、記録のために。

パッと見、SuperMicroのサーバーっぽい。

GPU Max 1100 card x 8

Supermicro Lists Intel Data Center GPU Max ‘Ponte Vecchio’ Based Machines

によると、

Supermicro currently has two servers qualified for Intel’s Ponte Vecchio compute GPUs: the SYS-421GE-TNRT machine that can house up to 10 Data Center GPU Max 1100 cards with 480GB of HBM2 memory (48GB per board) as well as the SYS-821PV-TNR that can accommodate up to eight Data Center GPU Max 1550 OAM modules with 1TB of HBM2 memory onboard (128GB per card) and combined performance of 6.7 BF16/FP16 PetaFLOPS at 4.8 kW.

とあるので、48GB HBM搭載の GPU Max 1100 を 10枚刺す感じですかね。

48GB だと、16GB x 3なんですかね。HBM2e の帯域が 1228.8GB/s ということなので、9.6Gbps となり、HBM2eは 3.2Gbpsなので、3個。あってそうですね。

HBM2eがいっぱい載っているのは、

  • 1100 GPU : 48GB、56 Xe Cores
  • 1350 GPU : 96GB、112 Xe Cores
  • 1550 GPU : 128GB、128 Xe Cores

なんですね。となると、1100 は 1350 の半分のメモリ/Xe Coreなんですね。

IntelがGPU/計算エンジン「Ponte Vecchio」の詳細を公開 - Hot Chips 33 によると、

Xe HPCスタック最大4個のスライス(64Xe Cores)とL2キャッシュ、4個のHBM2eコントローラ、1個のメディアエンジンと8本のXeリンクを持っている

とあるので、この Xe HPCスタックを1つ使っていて、歩留まりを考えて、3/4 を有効にしているんでしょうかね。

おわりに

関連記事 www.servethehome.com