はじめに
NVIDIAのH20のスペックの情報が下記の記事にあったので、記録として残します。
お値段に関しては、REUTERS の下記の記事にありました。
H20 のスペックとお値段
- Memory : HBM3 96GB, 4.0 TB?s
- INT8/FP8 Tensor : 296 / 296 TFLOPS
- BF16 / FP16 Tensor : 148 / 18 TFLOPS
- MIG : Up to 7 MIG
- L2 Cache : 60MB
- Power : 400W
- Form Factor : 8-way HGX
96GB ということなので、6個のメモリが全部載っています。
INT8 / FP8 Tensor が 296 /296 TFLOPS だと、H100 の 2000 TOPS と比べるとかなり抑えていますね。3/20 ぐらい
お値段は、$12,000 - $15,000 。これだと、A100 PCIeぐらいのお値段。。。A100 は H100 の 1/3 ぐらいの性能。H20 は、A100 の 半分以下の性能でしょうかね。。
L20 PCIe / L2 PCIe
L20 PCIe のスペックは、
- Memory : 48GB GDDR6, 864 GB/s
- INT8 / FP8 : 239 / 239 TFLOPS
- BF16 / PF16 : 119.5 / 119.5 FLOPS
- L2 Cache : 96MB
- Power : 275W
L2 PCIe のスペックは、
- Memory : 24GB GDDR6, 300 GB/s
- INT8 / FP8 : 193 / 193 TFLOPS
- BF16 / PF16 : 965 / 96.5 FLOPS
- L2 Cache : 36MB
- Power : TBD
おわりに
H100 => H800 => H20、H100 や H800 で使えなかった die を H20 に利用できれば嬉しいでしょうが、H20 は HBM3 が6個全部載っている & L2 Cache も フルの60MB なので、都合がいい die があるのでしょうか？
下記のXの投稿によると、Huawei の TSMC 7nm で開発した Ascend 910B が - $16,900 なのでそれよりもお安いと。。。
