はじめに
今年の目標は、記事数で「FPGAの部屋」を超えることを目標にしていましたが、
下記のように、既に超えているようなので、今年の目標は達成し、何もしなくても、100点です。
もう追い越してますよ。6139記事です。間が抜けているので、これより少ないです。
— marsee101 (@marsee101) 2023年12月29日
おめでとうございます。
B100の妄想、更新
生成AIバブルで売れまくっているNVIDIAのData Center用GPU。今年は、BlackwellのB100が発表されるようなので妄想しておきます。
上記のブログを書いた時は、
- 2 die 構成
- 各 die には、HBM3e が 4個、パッケージには 8個、24Gbit品の8 stacksを8個で、192GB 搭載
- 計算機部分は、
を考えたが、A100 の die shot を眺めていたら、192 SMs でも OK そうなので、
- 192 SMs (1 die : 96SMs : 12 TPCs/GPU) + 48 MB L2 Cache
ということで。これが、GB100で、B100 は、1 die : 84 SMs で、168 SMs に。
168/132 = 127%。Tensor Core の性能を2倍にすれば、2.54倍。。これで、BF16/FP16は 2.5 PFLOPS, BF8/INT8 は 5 POpsになります。
消費電力が OAM rev2.0の 1000W に入るように調整が入ると思います。。。
B100 => B200
HBM3e の 24GB が Q2.2024で、36GB が Q1.2025 です。ということは、2025年にB200が出ることになりそうです。 Next Graceは2025年ということなので、B200と同じ年に。これは、GH200の141GB版とH200と同じ感じですかね。
GB200は、GB100 (1 die) だとGH200よりちょっと計算性能は向上しますが、メモリ容量は 4/6 になっちゃいますね。どうするんだろうか？
おわりに
早いもので、平成になってから、今年で35年です。あたしは平成元年にお仕事始めました。今年で定年です。。。。既に2018年にリストラで前職を辞めたときにある意味で定年となっていましたが、今年は本当の定年です。とは言っても、定年になったから、やめなさいということは今のところないので、その後も働くつもりではいます。。。
今年の目標を元旦より前に達成しているので、今年はいい年になりそうです。。。
追記)、2024.01.03
今確認したら、2023.12.31 現在では、6131 でした。6130 と 6150 を見間違えたのだと思います。
