Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

AMDのGPUはメモリ128GB

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

TwitterのTLに流れてきたもの。

AMDGPUのメモリが128GB。NVIDIAのA100は40GB/80GBなのでそれより1.5倍。

AMD

最初に観たツイートは、これ。説明のために引用します。

2 die で、1 die に 64GBのHBM2メモリが接続しています。4 チャネルなので1チャネル当たり16GBメモリ。 NVIDIA A100の80GB版は、6チャネルのHBM2の内、5チャネルを使うようになっているので1チャネル当たり16GBで同じ。 NVIDIA A100の場合は、1 die だけど、AMDのMI200は 2 die で 4 チャネルなので、2 x 4 x 16 = 128GB ということに。

NVIDIAの場合、チップ間は NVLink で接続しているけど、この AMD MI200 は Die-to-Die Crosslinks となっています。 実際にどのくらいの転送レートをサポートしているのでしょうか?

die には、この他に

  • I/O Ports for PCIe & XGMI
  • 2x SDMA + 3x XGMI Control

とあります。

XGMI って、AMD EPYC のチップ間接続用に使っているものと同じなんでしょうか?

pc.watch.impress.co.jp

AMD EPYC ROMEの場合は、下記の記事の図にどんな感じに使っているのかが載っています。

www.boston.co.uk

記録のために、画像を引用します。

f:id:Vengineer:20210707080403p:plain

おわりに

NVIDIAGPUが注目されがちですが、AMDも攻めてきましたね。