はじめに

一昨日、Xに下記のような投稿が流れてきました。

Huge news here in Saudi Arabia — amazing partnership between @GroqInc and Saudi Arabia 🇸🇦 pic.twitter.com/bezAOiL1yq
— Gavin (@GavinSherry) 2025年2月9日

$1.5 Billion

Investment to further expand Saudi Arabia's AI Inference infrastructure

この講演の内容は、下記のYoutubeの動画で確認できます。

www.youtube.com

今日は、このビデオから、Groq のサウジアラビアへの $1.5B の投資について、妄想したいと思います。

それでは、Let's 妄想

実は、このブログでも取り上げていた

この投資は、このブログでも取り上げていました。下記のエントリです。

vengineer.hatenablog.com

最初のXの投稿は、11月30日です。そこから、出荷が始まりました。

上記のビデオによると、

9月にアナウンス
10月/11月、BUILD
12月、SHIP
1月、INSTALL
2月、ONLINE

というスケジュールで今回の発表になったようです。

設置する LPU数は、19,725

設置する LPU数は、下記のように、19,725 個

GroqRackには、9個のGroqNodeが載っていて、GroqNodeには8枚のGroqCardが載っています。つまり、1 Rack で 72個の LPU が載っています。

19,725 / 72 = 273.9 Racks

下記のブログでも書きましたが、1 Rack は $1M - $2M ぐらいとすると、全体で $550M ぐらいになるのでは？と思います。

vengineer.hatenablog.com

$1.5B に対して、$550M なので、1/3 です。残りの $1B はどこに使うのでしょうか？

Data Centerの中

下記のXの投稿にData Centerに設置された GroqRack の写真があります。

More capacity for @GroqInc users coming online now pic.twitter.com/JQg7BGgVA9
— Gavin (@GavinSherry) 2025年2月7日

説明のために写真を引用します。

かなりすっきりしています。Rackの上には電源ケーブルがあるだけですね。

Google TPU v4 の Rack がここにあります。説明のために引用します。

TPU v4 では、TPU v4 間を接続するケーブルが Rack の上の方にあります。

で、なんでこんなすっきりしているのかを妄想します。

下記のXの投稿に、Rackの裏側が載っているビデオがあります。

Everyone loved the new @GroqInc rack photo from yesterday. Here’s a video showing some of the intense networking in our data centers. pic.twitter.com/Lu6p2g9lhZ
— Gavin (@GavinSherry) 2025年2月8日

青いケーブルは、LPU間を接続するケーブルです。GbEやIBのように途中にはSwitchはないです。GroqNodeから出ているケーブルは他のGroqNodeに接続するだけです。

下記のブログには、GroqNodeの裏側の写真があります。

vengineer.hatenablog.com

説明のために引用します。

Networkでは、下記の4本のみです。

200Gbps IB/GbE (たぶん、ConnectX-6)で、100Gbps x 2
Server Management : 1GbE x 3
- In-band: 2 x 1GbE ports for host OS access
- Out-of-band: Dedicated 1GbE port for baseband management

1 Rack には、100 Gbps x x 9 = 18 と 1GbE x 3 x 9 = 27 だけです。

上記のXの投稿のビデオを見ると、最初の3つのRackの内、1つだけ、一番上のGroqNodeの上にSwitchがあります。つまり、全部のRackにSwitchが無くてもいい！