# はじめに Intel の System in Package のスライドがＸに流れてきました。これ、Falcon Shores のことを言っているのでしょうか？ System in Package 下記の投稿を説明のために引用します。 We can no longer rely on monolithic designs. Move to disaggre…

2月の映画鑑賞 : 25本 1月の映画鑑賞 : 24本 バッドランド・ハンターズ (2024) / BADLAND HUNTERS イコライザー THE FINAL (2023) / THE EQUALIZER 3、Amazon Prime Video、100円 インシディアス 赤い扉 (2023) / INSIDIOUS: THE RED DOOR、Amazon Prime Vid…

はじめに Xのテカナリエ の 清水さんの投稿にて、NVIDIA H100 PCIe の 基板の断面の写真がアップされているので、記録のために残します NVIDIA H100 PCIe の基板の中 twitter.com 画像が無くなるともったいないので、引用します。 拡大してみました。コンデ…

はじめに ARM が Neoverse V3/N3/E3/CMN-S3を発表しました。 今回は、The Nextplatform の下記の記事をみてみます。 www.anandtech.com 以下の図は、上記の記事から説明のために引用します。 Neoverse V3 / N3 64コアのNeoverse V3 と 32コアのNeoverse N3で…

はじめに Xの投稿に、Clearwater forest の Package shot が流れてきたので記録のために残します Clearwater forest 18A CPU tilesIntel 3T base tilesStacked using hybrid bondingTotal tile count: 17 https://t.co/pYw9ZCOxCy pic.twitter.com/hiXSxqQnR…

はじめに Ｘの投稿に、Intel Emerald Rapids の die shot が流れてきたので、記録のために残します。 Intel Emerald Rapids 下記の投稿です。 XNC and XSC die photograph of Emerald Rapids. Just a random drop with any additional context pic.twitter.…

2023年1月から2023年12月までにこのブログにアップしたAMD 関連(Xilinxを除く)のもののまとめです。 サマリー 1月 : 2 2月 : 4 3月 : 7 4月 : 6 5月 : 2 6月 : 5 7月 : 1 8月 : 2 9月 : 2 10月 : 1 11月 : 6 12月 : 7 49回でした。NVIDIAの57回には届きませ…

はじめに NVIDIAのQ4.FY24の決算が21日(日本時間22日朝)に発表されました。 アナリスト予想を上回る結果となり、株価も上がっています。 売上のグラフ 売上のグラフをＸに投稿したら、結構盛り上がりました。このブログを書いている時に、1.6万でした。 NVID…

はじめに NVIDIA B100の妄想 (その1) を書いたのは、2023.12.23 のクリスマス前日 vengineer.hatenablog.com この時は、2 die 構成から、L3 Cache die を追加できるようにするのでは？と思った次第です。 GB200 はどうなる？ B100を 2 die にした場合、Grace…

はじめに Xの投稿にNVIDIAのビッグカスタマーの情報が上げっていたので、記録として残します。 $NVDA's top 4 customers account for 40% of revenues, and every one of them is actively working on their own custom AI siliconAI capex will keep flowin…

はじめに 昨日のGroqp祭りに便乗したことにより、昨日のブログのアクセスが1,554と通常の2～3倍になりました。 vengineer.hatenablog.com また、Google からの流入が増えているので、Groq で Google検索してみたら、なんと、2番目に出るようになっていました…

はじめに NVIDIAのH200。H100に対しての変更点は、メモリが HBM3の96GBからHBM3eの141GBになっただけ？ で、メモリ帯域は？と調べてみたら、下記の記事では、4.8TB/s とありました。 gigazine.net HBM Roadmap 下記のTrendforceの記事によると、 HBM3 : Sams…

はじめに Xの投稿にて、GroqのLLM Inferenceが超絶速いというのが流れてきます。 groq.com にアクセスすると、 Mixtral 8x7B-32K LIama 2 70B-4k が動きます。デフォルトは、Mixtral 8x7B-32K のようです。 とりあえず、質問してみました。 GroqのTSPがLLM推…

はじめに 昨日、SambaNova SystemsがLLM Inference に PIVOT していたということを書きました。 vengineer.hatenablog.com 今日は、その先、どうするかを見ていきます。 募集 SambaNova Systemsの募集、Principal Engineer, Memory and Interface IP Integra…

はじめに このブログでも何度も紹介している SambaNoa Systems。 今回は、下位の The Nextplatm の記事を読んだ感想を残します。 www.nextplatform.com SambaNova Systemsの振り返り SambaNova Systemsの振り返り vengineer.hatenablog.com SN10 => SN20 => …

はじめに 昨日、お昼に、大宮公園の梅園にて、梅を見ながら、南インド料理を堪能しているときに、Xの投稿した下記の内容が久しぶりに盛り上がったので記録として残します。 1989年からお仕事で半導体開発やってきて35年経ちますが今が一番盛り上がっている気…

はじめに 今日の「半導体チップ雑談」でTenstorrentのことをお話するので、今までブログに書いたものをまとめておきます。 Company Hardware Software に分類して、まとめておきます。 Tenstorrent がこのブログに初めてでてきたのは、 LightMatter (2018.04…

はじめに 2023年1月から2023年12月までにこのブログにアップした NVIDIA 関連のもののまとめです。 サマリー 1月 : 2 2月 : 1 3月 : 2 4月 : 5 5月 : 6 6月 : 8 7月 : 5 8月 : 8 9月 : 6 10月 : 2 11月 : 5 12月 : 7 57回です。6日に1回なので、かなり多いで…

はじめに スティーブン・キング原作の短編集 夕暮れをすぎて 夜がはじまるとき を Kindle本で読み終えたので、記録に残します。 異能機関を読み終えたのは、1月28日だったので、3週間ぐらいですね。 vengineer.hatenablog.com 夕暮れをすぎて : 339頁 夜がは…

はじめに 下記のGTC 2022にて発表された NVIDIA Eos Supercomputer に関するブログがアップされています。 NVIDIAがGraceとHopperという名のスーパーチップとEOSスパコンを発表 (2022.3.25) Eos Supercomputer とは、 576台のDGX H100システム In Network Co…

はじめに TenstorrentのWohm Holeの動作周波数が分かったので記録として残します。 クロックは3種類 下記の Tenstorrent / TT-Metal の このIssue に Wohm Hole のクロックが載っていました。 Device Telemetry * Device 0: - Core Voltage (V) : 0.72 / 0.9…

はじめに Tenstorrent は、自社のAI chiplet および RISC-V CPU chiplet を接続するための Die to Die Interface として、Blue Cheetah の IP を選んだようです。 Tenstorrent Selects Blue Cheetah Chiplet Interconnect IP For Its AI and RISC-V Solution…

はじめに Google が Bard を Gemini というプロダクトとしてリリースしましたね。 japan.googleblog.com そして、Gemini Advanced は、$20/月 で OpenAI の ChatGPT と同じ価格です。 今回は、Gemini Advanced の内容について、見ていきます。 Gemini Advanc…

はじめに NVIDIAの下記の論文を見直して、気が付きました。 GPU Domain Specialization via Composable On-Package Architecture GPGPUのL3 Cacheって、LLMの性能にどのような影響を与えるのか？ グラフを見てみたら、 下図は上記の論文の Figure 9 です。こ…

はじめに NVIDIA H100に対して、H200の LLM Inference 性能が向上すると、NVIDIAは下記のように言っています。 www.nvidia.com LIama2 13B で、1.4X GPT-3 175B で、1.6X LIma2 70B で、1.9X です。 H100 => H200 になって変わったもの H100からH200になって…

はじめに Xの下記の投稿に、Intel HabanaLab Gaudi2/Gaudi3に関することが書いてあったので、記録として残します。下記の投稿を説明のために引用します。 Pat Gelsinger: Our accelerator pipeline for 2024 grew double digits QoQ in Q4 and is now well a…

はじめに Xの下記の投稿に、Tenstorrent の Grayskull dev kit を動かしたときの lspic の情報がアップされていたので、記録として残します。 Good evening @tenstorrent pic.twitter.com/oxTtHP1LXO— Jon Masters ‍☠️ (@jonmasters) 2024年2月11日 lspci 無…

はじめに Tenstorrent : TT-Budabackend を Windows 11 Pro + WSL2 + Ubuntu 22.04 LTS にてビルドして、テストコードを動かしてみました。 TT-budabackendをclone github.com を clone して、ビルドしてみました。 git clone https://github.com/tenstorren…

はじめに Tenstorrentのソフトウェアとしては、TT-Budaについてはこのブログでも紹介しました。今回は、もう一つのソフトウェアである TT-METALIUM について調べてみます。 TT-METALIUM 下図は、Tenstorrent のソフトウェアのTT-METALIUM のサイトから説明の…

はじめに ブログの記事、2024年1月31日の時点で、あと、3つという状況でした。 昨日、追いつき、今日、これで3つ目なので、2つ追い越したということになりました。 どうにか、ブログの件数、FPGAの部屋と並びました。 https://t.co/syklf9kxm9— Vengineer＠ …