はじめに
12月1日のブログにて、HBM4をGPU die上に積む？ というブログをアップしました。
GPU の発熱があるので、GPU die の上には積めないのでは？と、終わりに書きました。
L3 Cache Die の上に載せればいい？
下記のXへの投稿のように、「GPU Domain Specialization via Composable On-Package Architecture」の中にある、3D のケース(図の左から2番目)において、L3 Cache Die を大きくして、GPU die からはみ出すようにして、その上にHBM4を上に積めばいいのでは？というアイデアを妄想しました。
NVIDIA と SK Hynix の HBM4 の協業の件、https://t.co/FKAyAghja0
— Vengineer＠ (@Vengineer) 2023年12月21日
「GPU Domain Specialization via Composable On-Package Architecture」https://t.co/tAdYQjPS5Q の 2.5D + 3D の L3 Cache Die の上にHBM4を積めば、L3 Cache Die を大きくできるというアイデアなんだろうか？
などと、妄想する pic.twitter.com/BPHpheM1vp
となると、上記の図より大きな L3 Cache Die が必要になりますが、2つの L3 Cache Die にすればいいのでは？
NVIDIA B100では、2 x GPU die + 2 x L3 Cache Die + 8 x HBM という構成を前提に妄想すると、
HBM4 を上に載せる場合は、2 x GPU die + 4 L3 Cache Die + N x HBM4 の構成になるのでは？
おわりに
「GPU Domain Specialization via Composable On-Package Architecture」の ずーと、2.5D 前提で考えていたのですが、3D + 2.5D にすると、色々と妄想できるようになりました。
楽しかったです。
