Vengineerの妄想

人生を妄想しています。

半導体開発で、久しぶりにXの投稿で盛り上がったので、記録に残します。

はじめに

昨日、お昼に、大宮公園の梅園にて、梅を見ながら、南インド料理を堪能しているときに、Xの投稿した下記の内容が久しぶりに盛り上がったので記録として残します。

このブログを書いている時に、9.4万ぐらいでした。

補助金戦争

これを知ったのは、とあるYoutube(ReHacQ)で竹中平蔵氏がダボス会議にて、サマーズ氏からこれからは補助金戦争だ！と聞いた、というものです。

米国のCHIPS法に始まった大規模な半導体製造に対する補助金。金額は数千億円から数兆円レベル。。

その中で日本でも半導体関連に対して国が補助金を出しています。

AIバブルから生成AIバブル

このブログでもAIバブルのことは何度も書いていますが、2022年11月にOpenAIがリリースしたChatGPTにより、AIバブルから生成AIバブルが発生し、そのために、NVIDIAのGPU(A100やH100)の取り合いになりました。

2023年の時点で、A100は売り切れ、H100も2024年に出荷するものの売り切れになっていました。

そして、2023年Q3のNVIDIAの決算発表にて、売上が2倍と、爆上げしたことにより、NVIDIAの株価も爆上が、その後も順調というか、どこまで行くのという感じで株価は$800を一時超えました。 2015年の時にこのブログでも、「マルチコア、GPGPU、FPGA」に注目するよと書いたのですが、その時、NVIDIAの株を買っていれば、100倍になっています。$10,000 買っていれば、$1Mですよ (まー、その前に普通は売っているので、そこまでは儲からない。しかしながら、NVIDIAの中の人は自社株でもう引退できるぐらいの資産形成しているので、働く気も無くなっている人がいるとか)

半導体が儲かっているのではなく、AI半導体が不足しているだけ

株価では半導体銘柄が大きく注目されていますが、半導体が儲かっているのではなく、AI特に、NVIDIAのGPUに関するものが儲かっているだけです。

Xの投稿にも投げましたが、NVIDIAのGPUの供給不足になっているからです。

NVIDIAのGPUの需要が大きいには、LLM(Large Language Model)を学習するための道具として、NVIDIAのGPUが一番使いやすいというだけです。。。この使いやすいというは相対的に使いやすいだけです。しかしながら、その相対的に使いやすいものを絶対的に使いやすいものに変えたものがいまだに出てきていない状況です。多少、NVIDIAのGPUよりも使いやすい・コスパがいいというだけでは、置換はされないと思います。せめて、1桁、10倍以上の利点がないと、NVIDIAのGPUからのSwitchは起こらないと思います。

そして、あたしが一番気になっているのが、NVIDIAのGPUの需要が何らかの理由で無くなること。つまり、生成AIの価値が大幅に低下した時。。。そう、生成AIバブルが弾けたとき！

AI Cloud Chip Startup は、どうなっているか？

このブログでも何度も取り上げてい、AI Cloud Chip Startup である

  • Graphcore => ほぼ終了状態
  • Cerebras Systems
  • SambaNova Systems
  • Groq
  • Tenstorrent

ですが、Xの投稿を見る限り、

  • Groq

が一番盛り上がっています。これ、何でかな？と思っていました。

Xに投稿した下記のもの、

Graphcore、なんだか、身売りっぽい

SambaNova SystemsのCEOであるRodrigo Liang -sanがインタビューで、LLMの推論について色々とお話しているのを読んで、既にLLMの学習は諦めて、推論にPIVOTしたな？と思いました。

LLMの推論。Groqは創業当時から推論に特化しているので、LLMの推論でもそのままがんばっている感じです。なので、盛り上がっているのでは？

では、Cerebras Systemsは、どうなの？と思いました。Cerebras SystemsのCS-2を導入するには、最低、億円必要なので導入の壁が高いのではないでしょうか？

また、LLMの推論でもパラメータは、MemoryXからCS-2に送り込む必要があり、MemoryXの部分のコストも発生しますから。

でも、IPOするっぽい

Tenstorrentですが、AI chip から AI System に移行しようとしています。AI chip に関しては、先日、Grayskull Dev Kiit を $599/$799 と非常に安価でリリースをし、ソフトウェアの多くをオープンソースとして公開しています。また、AI chip だけでなく、RISC-V CPU chiplet に開発にも注力しています。AI chip がダメでも、RISC-V CPUの方で生き残る可能性は大きいです。 (昔、Bluespecという言語というかツールを開発していたBluespecは、今ではRISC-V CPU IPを売っているので、そう言うのもありなんだと思っています)

最後に

Softbankの孫さんがAI半導体開発会社を$1000億ドルで作るというXの投稿が流れてきました。もの凄いお金ですが、日本には設立されませんよね。AI chipを開発できる論理設計者が居ないので(ただしくは、AI chipを開発できるチームを作れないので)

追記)、2024.09.11

Softbank、結局Graphcoreを買収しましたね。

vengineer.hatenablog.com

最初に戻って、このブログを書いている間に、何故か？ 9.8万になっていました。(笑) => 10万超えています。 *1

*1:笑