はじめに
GroqRackの裏側の写真がXの投稿として、流れてきたもの、記録のためにブログに残します。
GroqRack
That's a strong-looking GroqRack™ right there, don't ya think? Serving up tokens faster than anyone. We're building A LOT more hardware and increasing capacity weekly. Scaling to be a token factory to help change the world of AI through the world's greatest inference engine. pic.twitter.com/l3q32XjC6b
— Groq Inc (@GroqInc) 2024年2月27日
裏側の写真の一部を説明のために引用します。
ノードには、８枚の Groq Card が刺さっていて、背面には4個のコネクタが刺さっています。
また、真ん中のボードでは、2個のコネクタが刺さっています。
2021.4.14の$200M調達した時のプレスに載っていた Groq Card とは違うようです。
下記にGroq Cardが載っている写真を引用します。
Chip(TSP)には、C2C x4 が 16個あります。上のピンクのケーブルの太さから考えると、1本は x4 っぽいです。となると、ノードの外には各chip(TSP) からは４組。残りの 12組はノード内部で接続しているのでしょうか？
おわりに
上記の Groq Rack に載っている Graq Card の写真が見つかりません。。。。
追記)、2024.03.13 見つけました。サリーさんのXの投稿です。説明のために引用します
Groq raised $362M to build the fastest AI hardware
— PitchDeckGuy (@BetterPitchGuy) 2024年3月1日
Here's their pitch deck: pic.twitter.com/FM5EAYqCFF
ボードの部分を拡大しました。2階建てで、4つのコネクタ。
並べてみた
歴代のPCIe Board
