Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

NVIDIA、AMD、Intelが共にCPU/GPUを1つのパッケージに

はじめに

  • NVIDIAがGraceとHopperを1つの基板上に実装したGrace-Hopper Superchipを搭載のサーバーを発表
  • AMDが2023年にMI300という AMD CDNA3 GPUs, Zen 4 CPUs, cache memory and HBM chiplets と1つのパッケージにしたものをリリース
  • IntelがCPUとGPUを1つのパッケージにしたXPU、Falcon Shoresを2024年にリリース

3社三つ巴

  • NVIDIAは、GPUであるHopperとGraceを1つの基板に搭載。Grace側のメモリにHooperから高速にアクセスできるように、NVLink v4 x 18本で900GB/sで接続

  • AMDは、GPUとCPUをCache Memory経由に接続、メモリはHBM。。

  • Intelは、チップを高度なパッケージング、IO機能、共有メモリ、これらのコンポーネント全体で単一のプログラミングモデルを持つようにする

3社の考え方は、ちょっと違う。

  • NVIDIAは、GPUからCPU側のメモリに高速にアクセスするために、NVLink v4 (x18 = 900GB/s) で接続

  • AMDは、独自のInfinity Cache + Fabric をベースに統合し、NVIDIAがかなり前から導入している Unified Memory を実現。ROCmの強化?

  • Intelは、CPU/GPUを単一のプログラミングモデル(oneAPI)で利用できる

おわりに

ちょっと前までは、アクセラレータを頑張るって感じでしたが、今度はCPU/GPUの1パッケージ化が流行りなんですかね。。。

関連記事

www.hpcwire.com

関連ブログ

vengineer.hatenablog.com

vengineer.hatenablog.com