Vengineerの妄想

人生を妄想しています。

NVIDIA H100 x 100,000 台なA.I. Cluster だってよ!

はじめに

Xの投稿に、NVIDIA H100が 100,000 台の A.I. Cluster だよというのが流れてきました。

記録に残します。

Super Micro ベースっぽい

www.youtube.com

上記のビデオは、基本は宣伝っぽいです。クラスタは、Super Micro ベースっぽいです。

  • 1ラックには、8台の HGX H100 ベース
  • 水冷
  • 100,000 台 = 100,000 / 8 = 12,500 ラック!

追記)、

下記の記事によると、H100/H200 で、200,000 台になるっぽいです。

おわりに

H100 を $30,000 とすると、100,000 x $30,000 = $3,000,000,000 = $3B。。。。。。$3B。。。。

xAI の Colossus AI Supercluster のようですが、お金の出処は、どこなんでしょうか?