はじめに
Meta が MTIA v2 をアナウンスしました。
MTIA v1 はこちら
Meta MTIA v2
下記の die shot は上記の Meta のサイトから説明のために引用します。
下記は、ブロック図です。同様に説明のために引用します。
カッコの中は、MTIA v1 です。
- TSMC 5nm (7nm)
- frequency : 1.35GHz (800MHz)
- die size : 25.6 x 16.4, 421mm2 (19.34 x 19.1, 373mm2)
- package : 43mm x 43mm (50mm x 40mm)
- Voltaga : 0.85V (0.67 V logic, 0.75 V memory)
- TDP : 90W (25W)
- PCIe : x8 Gen4 (x8 Gen5)
- GEMM TOPS : 354 TFLOPS (INT8), 177 TFLOPS (FP16/BF16) (3.2 TFLOPS(INT8), 16 TFLOPS(FP16BF16)
- SRAM : 256MB (128MB)
- SRAM BW : 2.7 TB/s (800 GB/s)
- DRAM : LPDDR5 128GB (LPDDR5 64GB)
- DRAM BW : 204.8 GB/s (176 GB/s)
Board
下記はBoardです。同様に説明のために引用します。TDP が 90W なので、M.2 みたいな形状には入らないので、PCIe の長いボードになっていますね。たぶん、12枚入っていると思います。
Boardには、2個の MTIA v2 が載るのですね。でも、LPDDR5は、各辺1個の4個しかないのですが。となると、128GB/4 = 32GB になりますね。裏にも4個のっていると、16GBなので物はありますが。。。
Meta MTIA V2: el acelerador para IA personalizado que triplica su potencia para no depender de NVIDIA https://t.co/wqTDNOXaBh
— chapuzasinformatico (@elchapuzas) 2024年4月11日
Broadcom の資料のものと比較する
に書いたBroadcomの資料に載っていたものと並べてみました。
同じですね。
おわりに
ということで、MTIA v2 が発表されました。
次は、2 die の下記のものですね。。。Broadcomの資料から説明のために引用します。
関連記事
上記の semianalysis に
There is also up to 128GB of LPDDR5-5500 on a 256-bit bus running at 176GB/s.
とあります。
176GB x 8 / 256 = 5.5Gbps
となると、16bit x 16 個。64bitのLPDDR5 なのかな？ 64GB / 4 = 16GB, 128GB / 4 = 32GB
