Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

Groq、x8サーバー

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

GroqのPCIeボードを8枚刺したサーバーを正式アナウンス

www.nextplatform.com

PCIeボード、初期のものとかなり変わっているっぽい。

電源コネクタも3つ付いている。

ホストは、AMD Rome。何故なら、PCIe Gen4 をサポートしているのは現時点、AMDだから、Xeonはまだ。NVIDIA A100 DGX もそう。

下図は、URL組み込みで引用しています。

1つのRomeに4個のGroqボードが接続しています。

4個を2組、あるいは 1個を8組という使い方ができるらしい。

推論用なので、そんなにいっぱい繋げる必要が無いのかな?

https://3s81si1s5ygj3mzby34dq6qf-wpengine.netdna-ssl.com/wp-content/uploads/2020/09/Groq2.jpg

 

次の図も、URL組み込みで引用します。

https://3s81si1s5ygj3mzby34dq6qf-wpengine.netdna-ssl.com/wp-content/uploads/2020/09/Groq3.jpg

各PCIeボードから3本のケーブルにて、ボード間を接続しているっぽいです。

 

GraphcoreのDELLサーバー(8倍のPCIeボード)がざっくり100Kドルだったので、それ以下になるとは思うけど、どうなんだろうか?

 

追記)、2020.10.10

この記事によると、Groq の ASIC ベンダーは、Marvellの模様。

ascii.jp