NVIDIAとSK HynixのHBM4での協業の件

はじめに

12月1日のブログにて、HBM4をGPU die上に積む？ というブログをアップしました。

vengineer.hatenablog.com

GPU の発熱があるので、GPU die の上には積めないのでは？と、終わりに書きました。

L3 Cache Die の上に載せればいい？

下記のXへの投稿のように、「GPU Domain Specialization via Composable On-Package Architecture」の中にある、3D のケース(図の左から2番目)において、L3 Cache Die を大きくして、GPU die からはみ出すようにして、その上にHBM4を上に積めばいいのでは？というアイデアを妄想しました。

NVIDIA と SK Hynix の HBM4 の協業の件、https://t.co/FKAyAghja0

「GPU Domain Specialization via Composable On-Package Architecture」https://t.co/tAdYQjPS5Q　の 2.5D + 3D の L3 Cache Die の上にHBM4を積めば、L3 Cache Die を大きくできるというアイデアなんだろうか？

などと、妄想する pic.twitter.com/BPHpheM1vp

— Vengineer＠ (@Vengineer) 2023年12月21日

となると、上記の図より大きな L3 Cache Die が必要になりますが、2つの L3 Cache Die にすればいいのでは？

NVIDIA B100では、2 x GPU die + 2 x L3 Cache Die + 8 x HBM という構成を前提に妄想すると、

HBM4 を上に載せる場合は、2 x GPU die + 4 L3 Cache Die + N x HBM4 の構成になるのでは？

おわりに

「GPU Domain Specialization via Composable On-Package Architecture」の ずーと、2.5D 前提で考えていたのですが、3D + 2.5D にすると、色々と妄想できるようになりました。

楽しかったです。