はじめに

昨日、お昼に、大宮公園の梅園にて、梅を見ながら、南インド料理を堪能しているときに、Xの投稿した下記の内容が久しぶりに盛り上がったので記録として残します。

1989年からお仕事で
半導体開発やってきて
35年経ちますが
今が一番盛り上がっている気がする
が、
日本国内で半導体開発をやろうとすると論理設計者が居ない
マジ居ない
— Vengineer＠ (@Vengineer) 2024年2月17日

このブログを書いている時に、9.4万ぐらいでした。

補助金戦争

これを知ったのは、とあるYoutube(ReHacQ)で竹中平蔵氏がダボス会議にて、サマーズ氏からこれからは補助金戦争だ！と聞いた、というものです。

米国のCHIPS法に始まった大規模な半導体製造に対する補助金。金額は数千億円から数兆円レベル。。

その中で日本でも半導体関連に対して国が補助金を出しています。

AIバブルから生成AIバブル

このブログでもAIバブルのことは何度も書いていますが、2022年11月にOpenAIがリリースしたChatGPTにより、AIバブルから生成AIバブルが発生し、そのために、NVIDIAのGPU(A100やH100)の取り合いになりました。

2023年の時点で、A100は売り切れ、H100も2024年に出荷するものの売り切れになっていました。

そして、2023年Q3のNVIDIAの決算発表にて、売上が2倍と、爆上げしたことにより、NVIDIAの株価も爆上が、その後も順調というか、どこまで行くのという感じで株価は$800を一時超えました。 2015年の時にこのブログでも、「マルチコア、GPGPU、FPGA」に注目するよと書いたのですが、その時、NVIDIAの株を買っていれば、100倍になっています。$10,000 買っていれば、$1Mですよ (まー、その前に普通は売っているので、そこまでは儲からない。しかしながら、NVIDIAの中の人は自社株でもう引退できるぐらいの資産形成しているので、働く気も無くなっている人がいるとか)

半導体が儲かっているのではなく、AI半導体が不足しているだけ

株価では半導体銘柄が大きく注目されていますが、半導体が儲かっているのではなく、AI特に、NVIDIAのGPUに関するものが儲かっているだけです。

Xの投稿にも投げましたが、NVIDIAのGPUの供給不足になっているからです。

今盛り上がっているのは
半導体ではなく
AI半導体で学習用です
というかNVIDIAのお高いGPUの取り合いになっているだけです。NVIDIAが顧客が欲しいだけのGPUを供給できればいいだけです
が、それができないのですよ
— Vengineer＠ (@Vengineer) 2024年2月17日

NVIDIAのGPUの需要が大きいには、LLM(Large Language Model)を学習するための道具として、NVIDIAのGPUが一番使いやすいというだけです。。。この使いやすいというは相対的に使いやすいだけです。しかしながら、その相対的に使いやすいものを絶対的に使いやすいものに変えたものがいまだに出てきていない状況です。多少、NVIDIAのGPUよりも使いやすい・コスパがいいというだけでは、置換はされないと思います。せめて、1桁、10倍以上の利点がないと、NVIDIAのGPUからのSwitchは起こらないと思います。

そして、あたしが一番気になっているのが、NVIDIAのGPUの需要が何らかの理由で無くなること。つまり、生成AIの価値が大幅に低下した時。。。そう、生成AIバブルが弾けたとき！

AI Cloud Chip Startup は、どうなっているか？

このブログでも何度も取り上げてい、AI Cloud Chip Startup である

Graphcore => ほぼ終了状態
Cerebras Systems
SambaNova Systems
Groq
Tenstorrent

ですが、Xの投稿を見る限り、

Groq

が一番盛り上がっています。これ、何でかな？と思っていました。

Xに投稿した下記のもの、

The Nextplatformの下記の記事を読んで思ったこと

SambaNovaは
AI Cloud学習はNVIDIAに勝てないので諦めて
AI Cloud推論にPivotしたhttps://t.co/TOJPWbhYTI
— Vengineer＠ (@Vengineer) 2024年2月17日

Graphcore、なんだか、身売りっぽい

The British microchip company @graphcoreai is exploring a sale to foreign owners after struggling to cash in on the #AI boom

o Deal could be worth $500M+

o *Rumored* buyers include @OpenAI, @SoftBank, @Arm

Paywalled: https://t.co/7EyfoKjMiO #HPC
— HPC Guru (@HPC_Guru) 2024年2月18日

SambaNova SystemsのCEOであるRodrigo Liang -sanがインタビューで、LLMの推論について色々とお話しているのを読んで、既にLLMの学習は諦めて、推論にPIVOTしたな？と思いました。

LLMの推論。Groqは創業当時から推論に特化しているので、LLMの推論でもそのままがんばっている感じです。なので、盛り上がっているのでは？

では、Cerebras Systemsは、どうなの？と思いました。Cerebras SystemsのCS-2を導入するには、最低、億円必要なので導入の壁が高いのではないでしょうか？

また、LLMの推論でもパラメータは、MemoryXからCS-2に送り込む必要があり、MemoryXの部分のコストも発生しますから。

でも、IPOするっぽい

Tenstorrentですが、AI chip から AI System に移行しようとしています。AI chip に関しては、先日、Grayskull Dev Kiit を $599/$799 と非常に安価でリリースをし、ソフトウェアの多くをオープンソースとして公開しています。また、AI chip だけでなく、RISC-V CPU chiplet に開発にも注力しています。AI chip がダメでも、RISC-V CPUの方で生き残る可能性は大きいです。 (昔、Bluespecという言語というかツールを開発していたBluespecは、今ではRISC-V CPU IPを売っているので、そう言うのもありなんだと思っています)