はじめに
NVIDIA Graceのメモリは、LPDDR5X で最大転送帯域は 500GB/s 程度(546GB/s)ということは、下記のブログで紹介しました。
では、実測ではどうなんでしょうか？
Google君に聞いてみたら、出てきました。
120GB / 480GB の性能
上記のドキュメントでは、Grace-Hopper で Grace の LPDDR5X は120GB/480GBです。
Grace のメモリ容量が 120GB / 480GB ということは下記のブログで紹介しています。
最大転送帯域は、
- 120GB : 512GB/s
- 480GB : 384GB/s
のようです。
CPU STREAMの値としては、 vengineer.hatenablog.com
- 120GBでは、Copy の 459GB/s と 512GB/s の 89.6%
- 480GBでは、Scale の 345GB/s と 384GB/s の 89.7%
出ていますね。。。
おわりに
120GBと480GB で帯域がこんなに違うのはなんででしょうか？
120GB の時はメモリコントローラに 1個で、480GB の時はメモリコントローラに 4個の DRAM が付いている感じなんでしょうか？
ちなみに、Grace-Hopper Superchip のモジュールの表と裏にそれぞれ LPDDR5X が8個搭載されています。
128 GB/16 = 8GBに、1つで8GB。512 GB/16 = 32GB になります。
120 GBは、8GB x 15、480GB は、32GB x 15 の構成なんでしょうかね。。
