はじめに
AMDのMI300Cをこのブログで取り上げたのが8月。
この時、MI300C は、
- 12 x CCD (96 cores)
- 8 x 16GB = 128GB HBM3
ということでした。
Microsoft が導入した MI300C は？
Azure HBv5 として、AMD MI300C を導入し、サービスを開始するようです。
HBMになったことにより、STREAM 値が HBv4 の 780 に対して、HBv5 は 6900 と9倍ぐらい速くなっています。
下図は、上記のMicrosoftのサイトから説明のために引用します。
1ノードに、4個の MI300C が搭載されているようで、1ノードで、 352 AMD EPYC “Zen4” CPU core & 400-450 GB of RAM (HBM3) ということです。
MI300Cは、
- 12 x CCD (96 cores)
- 8 x 16GB = 128GB HBM3
とすると、4個だと
- 12 x CCD (96 cores) x 4 = 384 cores
- 8 x 16GB = 128GB HBM3 x 4 = 512GB
ですが、
- 352 cores
- 400 - 450 GB
なのですね。
こちらにも写真が載っていますね。
おわりに
この HBv5 って、NUMAは1なのでしょうか？それとも各チップ毎になり、4なのでしょうか？
写真には、CPU #0/#3 と CPU #1/#2 が2個づつ載っているので、どんな感じで割り当てられているのでしょうかね。
