Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

AMD MI300

はじめに

先週の CES 2023 での AMD講演の最後に、MI300の発表がありました。

www.youtube.com

MI300

MI300 に関しては、既に色々な人がまとめてくれているので、そこを引用することとします。

下記は、tom's HARDWAREの記事です。

www.tomshardware.com

チップのアップ写真が載っています。

CES 2023の時に、

  • 4個の 5nm chip
  • 9個の 6nm chip

と言っています。これに、8個の HBM3 chip が載っています。写真では、4個のchip、8個のHBM3、8個のchip は認識できたのですが、残りの1個は分かりません。

4個の 5nm chip に関しては、どうやら

  • 1個の CPU
  • 3個の GPU

のようです。

各 chip に 32GB の HBM3 のみなので、EPYCの1TB/1.5TBのDDR4/DDR5に比べてかなり少ないので、どこかにDDR系のメモリを接続するための仕組みはあると思います。

MI250 と MI300 の比較

MI250X搭載のFrontierのノードの構成は下記のようになっているようです。下図は、AMD TEASES DETAILS ON FUTURE MI300 HYBRID COMPUTE ENGINESから説明のために引用します。

1個のCPU(EPYC) + 4個のGPU(MI250X)

CPUコア数は64個。MI250Xの中身は 2 dieなので、1 die あたり 8コア

一方、MI300 の CPUコア数は24個。GPUのdie数は3。1 die あたり8コアになるので、Frontier の割合と同じ。

また、MI250Xでは 1 die あたり HBM2e (3.2Gbps) x 4 で、MI300 では 1 die あたり HBM3 (6.4Gbps) x 2 でメモリ帯域も同じ。

というところから、下記のような構成のノードを妄想しましたが、GPU側のNetworkであるSlingshotが3つとなるので、

やっぱり、MI300は4つになるのかな?と。ただし、ホストとなるEPYCは64コアとかじゃなくて、もっと軽いものになるんじゃないですかね。

おわりに

2022年までは x86-64をホストにAccelarator を付けるという構成だったのが、2023年からはAI/ML用のコンピュータというものが出てくる感じですね。

  • Intel は 2021年に Falcon SHores XPU にて、CPU/GPUを統合したXPUをアナウンス、2023年にリリース予定です。
  • NVIDIA は、2022年春、Grace CPU と Hopper GPU を結合した Grace-Hopper Superchip を発表。2023年、HGXとしてリリース予定
  • AMD は、今回(2023年1月)、MI300として、CPUとGPUを1つのパッケージに統合したものを発表、2023年内にリリース予定

Data Center の売上トップ3が、CPU、GPUの個別プロダクトだけでなく、CPU+GPU の統合プロダクトをアナウンス。

2023年、Data Centerは新しい方向性の幕開けになるのでしょうか?

関連記事

www.nextplatform.com