はじめに
HotChipsにて、NVIDIA GRACE のちょっと詳細が発表されるようで、その情報がTwitterに流れてきたので、見てみる
Nvidia Details Grace Hopper CPU Superchip Design: 144 Cores on 4N TSMC Process
— CK's Technology News (@CKsTechNews) 2022年8月19日
Based onhttps://t.co/aT3cVLisTo
Images provided by nVidia pic.twitter.com/JkpdQqFOVn
今までの振り返り
- 72コア
- LPDDR5
- NVLINK C2C 96 lanes
- PCIe Gen5 x16
今回の情報
上記のTwitterの中の画像から
- CPU x4 cluster x 18
- L3 Cache 117MB : 2つに分割
- LPDDR5 16 channels
- 4-socket coherency over Coherent NVLINK
- x56 PCIe Gen5
- x12 cNVLINK/PCIe
- Memory System Resource Partitioning and Monitoring (MPAM), for A-profile architecture
メモリコントローラが16個あるのは、凄い。でも？
Ampere Computingの場合は、80コア/128コアで
- 8x 72-bit DDR4-3200 channels
- SECDED ECC, Symbol-based ECC, and DDR4 RAS features
- Up to 16 DIMMs and 4 TB/socket
あれ、LPDDR5って、Samgsungのサイトを見たら、x64 だよね。そうなると、16 コントローラはやっぱりすごい
GRACEは、512GB接続できるとおあるので、16コントローラだと、32GB ですね。32GBなら普通にありそうですね。
その他
GRACE CPU + HOPPER GPU <=> NVSWITCH <=> HOPPER GPU + GRACE CPU の構成で、左側のHOPPOERから右側のGRACEのメモリに直接アクセスできるようです。
おわりに
GRACE SuperChip になると、NVLINK - C2C は、GRACE間の接続で使うけど、もう一つの PCIe x56 + x12 cNVLINK/PCIe は何に使うのでしょうかね。
