はじめに
Xの投稿に、NVIDIA H100が 100,000 台の A.I. Cluster だよというのが流れてきました。
We take you inside the @xai Colossus AI Supercluster with over 100,000 @NVIDIA H100 GPUs. If you want to see why the @Supermicro_SMCI liquid-cooled cluster is awesome, then check this one out. Thank you to @elonmusk and his awesome teams for making this possible #Sponsored pic.twitter.com/OkVgWi7ALk
— STH (@ServeTheHome) 2024年10月28日
記録に残します。
Super Micro ベースっぽい
上記のビデオは、基本は宣伝っぽいです。クラスタは、Super Micro ベースっぽいです。
- 1ラックには、8台の HGX H100 ベース
- 水冷
- 100,000 台 = 100,000 / 8 = 12,500 ラック!
追記)、
下記の記事によると、H100/H200 で、200,000 台になるっぽいです。
おわりに
H100 を $30,000 とすると、100,000 x $30,000 = $3,000,000,000 = $3B。。。。。。$3B。。。。
xAI の Colossus AI Supercluster のようですが、お金の出処は、どこなんでしょうか?