Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

Google TPU v5e が chiplet だったという件

はじめに

Google TPU v5e は、実は chiplet だった。

Google TPU v5e については、2023年8月30日に発表時にこのブログでも取り上げました。

vengineer.hatenablog.com

その後、も取り上げ、v5e は、v4i の後継で基本的には、推論用チップとして開発・運用されているようです。

vengineer.hatenablog.com

vengineer.hatenablog.com

また、v4i はボード上の4個のチップとの接続だけだったのが、v5e は 2Dトーラスで 16 x 16 の構成まで接続できるようになりました。

v5e は chiplet

そんな、v5e ですが、実は、chiplet だったんです。

発表時のビデオでもよーく見ると、それが分かります。上記のブログでも紹介した下記の部分をよーく見えみましょう!。

拡大して、赤線で囲った部分です。上の部分はDummy die だと思います。HBM2 の空きスペースに置いています。一方、下側にも die があります。下部でちょっとだけ、はみ出ているのが分かります。

Broadcom の資料でも

Broadcomの資料91頁です。説明のために引用します。ここに v5e が載っています。

v5e の部分を拡大します。上に細長い chiplet があるのがわかります。この部分は、Interconnect だと思います。v5e だと、1600Gbps とあります。2Dトーラス構成になるので、1組 400Gbps になります。

おわりに

今回もBroadcomの資料にお宝が埋まっていました。

  • Compute die (HBM2) は、Customer
  • IOD は、Broadcom

という感じなんでしょうかね。。。