Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

Meta MTIA v1 は、Intel NNPI の置き換えで、DLRM用途に開発していた?

はじめに

MetaのMTIAについては、先日の下記のBroadcom の資料のブログで書きました。

vengineer.hatenablog.com

今回は、MTIA v1 の開発の目的について、見ていきます。

MTIA v1 は、NNPIの置き換えだった

www.youtube.com

www.youtube.com

どうやら、MTIA v1 は Intel NNPI の置き換えだったようです。

Intel NNPIについては、何度かこのブログでも紹介しています。

vengineer.hatenablog.com

MTIAを開発したのは、2021年ということだったので、まだ、ChatGPT は出ていません。MTIA v1 を開発したのは自社のFacebookなどのサービスでの「Deep Learning Recommendation Models (DLRM) 」のためのようです。 今までは、Intel NNPI を DLRM に使っていたが、それを MTIA v1 に置き換えたと。。。

各PE内のRISC-Vは、AX25-V100, from Andes Technology っぽい。

Broadcom の資料を振り返る

下図は、Broadcomの資料から説明のために引用します。

赤線より左がChatGPTの前、右はChatGPTの後 明らかに構成が違うの理由がそこだったというのを気が付きました。。。

左側が MTIA v1 、その右隣が MTIA v2 でしょう(妄想)

右側では、HBMがたくさん付いていますね。。。これ、やっぱり、ChatGPTの影響を受けているんでしょうね。。。。

engineering.fb.com

によると、

As we work on the next generations of MTIA chips, we’re constantly looking at bottlenecks in the system, such as memory and communication across different chips so that we can put together a well-balanced solution to scale and future-proof our silicon.

とあるので、MTIAのLPDDRからHBMへの変更は確実でしょうね。

おわりに

MetaのMTIA v1の開発目的が分かったのと、Broadcomの資料でこれからの開発のチップの構成がなんか違うなーと思っていたのが分かったのはよかったです。