Vengineerの妄想

人生を妄想しています。

NVIDIAとSK HynixのHBM4での協業の件

はじめに

12月1日のブログにて、HBM4をGPU die上に積む? というブログをアップしました。

vengineer.hatenablog.com

GPU の発熱があるので、GPU die の上には積めないのでは?と、終わりに書きました。

L3 Cache Die の上に載せればいい?

下記のXへの投稿のように、「GPU Domain Specialization via Composable On-Package Architecture」の中にある、3D のケース(図の左から2番目)において、L3 Cache Die を大きくして、GPU die からはみ出すようにして、その上にHBM4を上に積めばいいのでは?というアイデアを妄想しました。

となると、上記の図より大きな L3 Cache Die が必要になりますが、2つの L3 Cache Die にすればいいのでは?

NVIDIA B100では、2 x GPU die + 2 x L3 Cache Die + 8 x HBM という構成を前提に妄想すると、

HBM4 を上に載せる場合は、2 x GPU die + 4 L3 Cache Die + N x HBM4 の構成になるのでは?

おわりに

GPU Domain Specialization via Composable On-Package Architecture」の ずーと、2.5D 前提で考えていたのですが、3D + 2.5D にすると、色々と妄想できるようになりました。

楽しかったです。