Vengineerの妄想

人生を妄想しています。

Tenstorrent Blackhole には、SMCとDMCがあるんだって!

はじめに

TenstorrentのBlackhole用に、tt-zephyr-platforms については、下記のブログに書きました。

今回は、tt-zephyr-platforms のドキュメント

NotebookLMの音声概要

SMC と DMC

上記のドキュメントによると、Blackhole firmware のは、2つのターゲットがあるようです。

  • System Management Controller (SMC): the ARC cluster in the Blackhole SoC
  • Device Management Controller (DMC): an external ARM microcontroller

DMC firmware は、

  • mainly responsible for power-on, fan control, some telemetry, SMBus communication, and other board-level management functions.

SMC firmware は、

  • focuses on management of high-speed I/O (i.e PCIe, GDDR, and Ethernet), power management, frequency scaling, thermal management, host communication over PCIe and other chip-level functionality.

を行うようです。

yaml ファイル

DMC (tt_blackhole_tt_blackhole_dmc_p100a.yaml) の中身は下記のようになっています。

arch が arm になっています。

identifier: tt_blackhole@p100a/tt_blackhole/dmc
name: Tenstorrent Blackhole P100A board (DMC)
type: mcu
arch: arm
toolchain:
  - zephyr
  - gnuarmemb
  - xtools
sysbuild: true
ram: 144
flash: 512
supported:
  - gpio
  - counter
  - watchdog
  - pwm
  - adc
  - i2c
  - dma
  - mfd
  - sensor
vendor: tenstorrent

SMC(tt_blackhole_tt_blackhole_smc_p100a.yaml)は、下記のようになっていて、arch は arc です。

# Copyright (c) 2024 Tenstorrent AI ULC
# SPDX-License-Identifier: Apache-2.0

identifier: tt_blackhole@p100a/tt_blackhole/smc
name: Tenstorrent Blackhole P100A (SMC)
type: mcu
arch: arc
toolchain:
  - zephyr
  - cross-compile
  - xtools
  - arcmwdt
supported:
  - smp
  - gpio
testing:
  ignore_tags:
    - net
    - bluetooth
vendor: tenstorrent

おわりに

Blackhole内の ARC CPU だけでなく、外部(ボード上)に arm MCU を持っているんですね。電源やリセット関連は、外部の arm MCU が制御し、それ以外は Blackhole 内の ARC CPU が制御する感じですかね。

Intel 18A-P とは、

はじめに

下記のXの投稿によると、Intel Jauger Shoresは、Intel 18A-P ということなので、18A に対して、18A-P がどんな感じなのかを調べてみました。

Intel 18A-P

下記のXの投稿によると、

  1. tape in stage and running in Fab
  2. Two product : Nova Lake and Diamond Rapids
  3. ES0 sample Power On perhaps in August 2025
  4. It also HVM and launch in Q4 2026

とあります。Jauger Shores は、2026年のようですが、18A-P が Q4 2026 なので、Jauger Shores も Q4 2026 なんでしょうね。まー、遅れて、2027年ですかね。

18Aに対して、

  • 8% (Perf/W Increase)
  • 1.0 x (Chip Density)

ということで、サイズを変えずに消費電力当たりの性能向上は~8%ということですかね。サイズが変わらないのは、Ribbon FET (GAA FET) なので縦方向に積むからですかね。 それが上記のXの投稿のスライドの図なんですねかね。

上記のXの投稿の画像を説明のために引用します。

スライドの右下に、

Two Intel 18A-P products already taped in and running in fab

とあるのは、上記の

  • Nova Lake
  • Diamond Rapids

ということですかね。

おわりに

  • Q4. 2025 : 18A : Panther Lake
  • Q4. 2026 : 18A-P : Nova Lake, Diamond Rapids

ですかね。

2024年9月24日に

  • Gaudi 3
  • Granite Rapids

を発表しているので、

Q4.2026 の

  • Jaguar Shores
  • Nova Lake
  • Diamond Rapids

と揃う感じですかね。

pc.watch.impress.co.jp

OracleとOpenAIがStarGate拡大で合意だって!

はじめに

OracleとOpenAIがStarGate拡大で合意したというニュースが流れてきましたので、記録に残します。

www.bloomberg.co.jp

NotebookLMの音声概要

StarGate とは?

StarGate については、このブログでも1月に取り上げました。

vengineer.hatenablog.com

4年間で 5000億ドルを投資すると。

今回の契約

OpenAIとの契約を含めて、年間収入で300億ドル規模のクラウド契約を締結した

上記の StarGate では、5年間で 5000億ドルなので、1年換算で 1,250億ドルになるので、約 1/4 ぐらいですね。

によると、

1年間の「Americas」の「Cloud services and license support」は、$31,714M です。300憶ドルとは、$30,000Mなので、ほぼ同じ金額です。

スゴイ金額ですね。

おわりに

Oracle が OpenAI に提供するための設備を調達するための費用って、どうなっているんでしょうかね。

関連

Softbank Group からの資金と自社資金になるんでしょうかね。。。。

SambaNova 2.0

はじめに

Xの下記の投稿で、SambaNovaのカラーがオレンジからバイオレットになったのを知りました。

サイトを覗いてみたら、かなり変わっていました。

ロゴも変わっていました。記録に残します。

変更前のロゴ

SとNが大文字で、®商標も付いていましたが、新しいロゴは無くなっています。

NotebookLMの音声概要

SambaNova 2.0

SambaNova 2.0 により、3つのプロダクト

  • SambaCloud : Dev : Enterprise
  • SambaStack : Hosted | On-Prem
  • SambaManaged : Managed Inference Cloud <= New!

下図は説明のために引用します。3つのプロダクトの下の階層は共通ですね。

Technologyの下に

  • SambaRack
  • RDU

というページができていました。

SambaRack

下記はサイトから説明のために引用します。Rackの色も変わりましたね。

今まで公開されてこなかった1Uの中身。イメージ図っぽいです。説明のために引用します。

2個の SN40L、その周りに DRAM が結構載っています。1U 間の接続部は背面なのでよくわかりません。

おわりに

DeepSeek、Meta 、Qwen、OpeAIなどのモデルの Princing も載っていますね。

SambaNova、いや、sambanova も 完全に LLM ビジネスに PIVOT ですね。

CoreWeave が NVIDIA GB300 (Dell Technologies) を最初に導入!

はじめに

CoreWeave が 最初の Dell Technogies の GB300 NVL72 システムのユーザーになった模様。

www.coreweave.com

記録に残します。

NotebookLMの音声概要

CoreWeave とは?

このブログでは、CoreWeave の IPO の時に取り上げました。

vengineer.hatenablog.com

IPO当初の株価は低迷しましたが、現在は 165ドルで3倍以上になっています。

GB300 NVL72

Dell Technologies の GB300 NVL72 システム

www.dell.com

こんな感じのようです。説明のために写真を引用します。

Dell Technologies のプロダクト名は、「PowerEdge XE9712」で詳細は、下記にあります。

www.dell.com

おわりに

CoreWeave、GB300 NVL72 をどのくらい調達するんでしょうね。

Xの Grok 3 に聞いてみたら、GB300 NVL72 のお値段は、

  • NVIDIA GB300 NVL72の価格は、1台あたり約370万~400万ドルと推定されます

と出てきました。仮に、400万ドル、つまり、$4M ですね。。。凄い金額ですね。

あ、これって、Cerebras Systems の CS-3 も推定してもらったのですが、 約200万~300万ドルでした。

下記のブログに、Cerebras Systems の CS-3 のラックが載っています。1ラックに 2台の CS-3 が載っているので、まー、だいたい同じぐらいのお値段になりそうですね。

vengineer.hatenablog.com

Esperanto Technologies が シリコンビジネスを終了

はじめに

このブログでは、かなり前から取り上げていた Esperanto Technologies

その Esperanto Technologies がシリコンビジネスを終了するようです。

www.eetimes.com

Esperanto Technologies

最初に取り上げたのが9年前の2016年12月

vengineer.hatenablog.com

2022年にET-SoC-1 の評価。

vengineer.hatenablog.com

2023年8月。OpenAI/ChatGPT の影響でターゲットビジネスをrecommendation から HPC/LLMs に pivot ?

vengineer.hatenablog.com

2024年7月にチップレット構想

vengineer.hatenablog.com

EETimes の記事

www.eetimes.com

によると、

“We were subject to incredible raids by deep-pocketed competitors who offered packages two, three, even four times higher than what we were able to offer as a small company,” Swift said. “They basically decimated our teams – very unfortunate, but we couldn’t compete with that.”

Google翻訳によると、

「資金力のある競合他社から、小規模な会社である私たちが提供できる価格の2倍、3倍、時には4倍もの高いパッケージを提示され、信じられないほどの攻撃を受けました」とスウィフト氏は語った。「彼らは事実上、私たちのチームを壊滅させました。非常に残念なことですが、私たちには太刀打ちできませんでした。」

追記、

Xの投稿に、パッケージは給与ではないかというのがあったので、上記を再度読み直してみたら、そうなのかもしれないですね。 資金力のある競合他社とあったので、違和感があったのですが。 となると、資金力が競合他社って、もしかしたら、あそこでしょうか?

物理的なパッケージでは

ST-EoC-2x は、4nm (Samsung 4nm と言われている)で開発していて、

ascii.jp

にある下記の図を説明のために引用します。

  • 6 x ET-SoC-2x
  • 6 x DRAM Controller Chiplet
  • 2 x PCIe Gen6 Contoller Chiplet
  • 2 x 2 x 800GbE Controoler Chiplet

を1つのパッケージにするので、そりゃー、お高くなりますよね。そして、大量(1万個、10万個)なら量産効果で多少お安くはなると思いますが、1000個程度だと、お安くなることは無いと思います。

ET-SoC-2x 以外の chiplet って、自社で開発したものでしょうか?それとも、どこかで開発したものを使っているのでしょうか?

おわりに

チップレットで作ってもシステムとして組み上げるためには他に色々なものが必要です。その色々なものを組み合わせるにもそれなりに費用が必要です。

複数のdie で構成されるものが、1個の die で構成されるものよりもお安くなるケースってどんなときでしょうか?

今年になって、

  • Graphcore => Softbank Groupが買収
  • Untether AI => 従業員のみ、AMDが買収
  • Esperanto Technologies => シリコンビジネスを終了

になっています。

2022年11月の OpenAI/ChatGPT にて、AIバブルから生成AIバブルになり、延命されてきた チップビジネス。。さあ、これからどうなるのでしょうか?

Microsoft、Maia 200 と 280

はじめに

Microsoft の Maia 100 については、このブログでも取り上げました。

vengineer.hatenablog.com

今回は、

  • Maia 200 (2026)
  • Maia 280 (2027)、Dual chiplet

に関する情報です。

NotebookLMの音声概要

Maia 200/280

によると、

  • Maia 200 (TSMC N3 + HBM3e) は 4Q25 から 2026 年に延期されたようです

元記事は、こちら(有料記事のようです)

https://www.theinformation.com/articles/microsoft-scales-back-ambitions-ai-chips-overcome-delays

下記のXの投稿では、Maia 200 は、GUC/Marvell の開発になっているようです。

おわりに

4Q2025 から 2026 って、どのぐらい遅れるんでしょうかね。。次の Maia 280 への影響もあるんでしょうかね。