Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

KakiP (旧Kaki Pi) は、ルネサスRZ/V2H(DRP & DRP-AI付き)を搭載したボード

はじめに Xの投稿に、下記のようなKakiP (旧Kaki Pi) なるボードが流れてきました。今回は、KakiP (旧Kaki Pi) に関する投稿のまとめです。 ようやくお披露目になりました!関係者に感謝です@Renesas_Japan @s_osafune https://t.co/rprciZqwkL— Yuichi HORI…

祝 : ブログ解説17周年

はじめに 17年前の2007年3月3日に、Yahoo! ブログに、ブログを解説しました。 最初の日記を書いたのは、2007年3月15日です。 vengineer.hatenablog.com 早いものですね。。。 おわりに 次の目標は、記事数「6666」です。

書籍 : 一度読んだら絶対に忘れない世界史の教科書【宗教編】

はじめに 何となく、Amazon のサイトを眺めたら、面白そうだったので、いつものように、Kindle 本をぽちりました。 書籍 : 一度読んだら絶対に忘れない世界史の教科書【宗教編】 公立高校教師YouTuberが書いた ぽちった時は、50%のポイントバックでした。 …

DELLの中の人がおもらしいて、NVDIA B200が2025年にリリースされるということの件

はじめに DELL の中の人がおもらしして、NVIDIA B200が2025年にリリースされる件が分かりました。 DELLさんがおもらししてNVIDIA B200を2025年にリリースH100=>H200のペースより早いねなぜこんなに早いのかブログに書きたいと思います https://t.co/KStvTMo5…

Groq Rackの裏側

はじめに GroqRackの裏側の写真がXの投稿として、流れてきたもの、記録のためにブログに残します。 GroqRack That's a strong-looking GroqRack™ right there, don't ya think? Serving up tokens faster than anyone. We're building A LOT more hardware a…

祝、Altera復活

はじめに 2015年にIntelに買収されたFPGAメーカーのAltera。Intelに統合され、PSGとなっていました。 vengineer.hatenablog.com IntelからPSGの分離 下記のブログのように、IntelからPSGを分離を2023年10月に発表 vengineer.hatenablog.com Altera復活 2024…

Intel の System in Pacakge

# はじめに Intel の System in Package のスライドがXに流れてきました。これ、Falcon Shores のことを言っているのでしょうか? System in Package 下記の投稿を説明のために引用します。 We can no longer rely on monolithic designs. Move to disaggre…

2月の映画鑑賞

2月の映画鑑賞 : 25本 1月の映画鑑賞 : 24本 バッドランド・ハンターズ (2024) / BADLAND HUNTERS イコライザー THE FINAL (2023) / THE EQUALIZER 3、Amazon Prime Video、100円 インシディアス 赤い扉 (2023) / INSIDIOUS: THE RED DOOR、Amazon Prime Vid…

NVIDIA H100 PCIe の基板の中

はじめに Xのテカナリエ の 清水さんの投稿にて、NVIDIA H100 PCIe の 基板の断面の写真がアップされているので、記録のために残します NVIDIA H100 PCIe の基板の中 twitter.com 画像が無くなるともったいないので、引用します。 拡大してみました。コンデ…

ARM Neoverse V3/N3/E3/CMN-S3発表。

はじめに ARM が Neoverse V3/N3/E3/CMN-S3を発表しました。 今回は、The Nextplatform の下記の記事をみてみます。 www.anandtech.com 以下の図は、上記の記事から説明のために引用します。 Neoverse V3 / N3 64コアのNeoverse V3 と 32コアのNeoverse N3で…

Clearwater forest の Package shot

はじめに Xの投稿に、Clearwater forest の Package shot が流れてきたので記録のために残します Clearwater forest 18A CPU tilesIntel 3T base tilesStacked using hybrid bondingTotal tile count: 17 https://t.co/pYw9ZCOxCy pic.twitter.com/hiXSxqQnR…

Intel Emerald Rapids の die shot

はじめに Xの投稿に、Intel Emerald Rapids の die shot が流れてきたので、記録のために残します。 Intel Emerald Rapids 下記の投稿です。 XNC and XSC die photograph of Emerald Rapids. Just a random drop with any additional context pic.twitter.…

AMD関連まとめ (2023年版)

2023年1月から2023年12月までにこのブログにアップしたAMD 関連(Xilinxを除く)のもののまとめです。 サマリー 1月 : 2 2月 : 4 3月 : 7 4月 : 6 5月 : 2 6月 : 5 7月 : 1 8月 : 2 9月 : 2 10月 : 1 11月 : 6 12月 : 7 49回でした。NVIDIAの57回には届きませ…

NVIDIA Q4.FY24

はじめに NVIDIAのQ4.FY24の決算が21日(日本時間22日朝)に発表されました。 アナリスト予想を上回る結果となり、株価も上がっています。 売上のグラフ 売上のグラフをXに投稿したら、結構盛り上がりました。このブログを書いている時に、1.6万でした。 NVID…

NVIDIA B100 を妄想する (その2)

はじめに NVIDIA B100の妄想 (その1) を書いたのは、2023.12.23 のクリスマス前日 vengineer.hatenablog.com この時は、2 die 構成から、L3 Cache die を追加できるようにするのでは?と思った次第です。 GB200 はどうなる? B100を 2 die にした場合、Grace…

NVIDIAのビックカスタマーは、4社

はじめに Xの投稿にNVIDIAのビッグカスタマーの情報が上げっていたので、記録として残します。 $NVDA's top 4 customers account for 40% of revenues, and every one of them is actively working on their own custom AI siliconAI capex will keep flowin…

Groq で LIama 2 70B を推論システムとして使った時の規模とお値段を妄想する

はじめに 昨日のGroqp祭りに便乗したことにより、昨日のブログのアクセスが1,554と通常の2~3倍になりました。 vengineer.hatenablog.com また、Google からの流入が増えているので、Groq で Google検索してみたら、なんと、2番目に出るようになっていました…

NVIDIA H200のメモリ帯域は 4.8TB/s、B100のメモリ帯域は、どうなる?

はじめに NVIDIAのH200。H100に対しての変更点は、メモリが HBM3の96GBからHBM3eの141GBになっただけ? で、メモリ帯域は?と調べてみたら、下記の記事では、4.8TB/s とありました。 gigazine.net HBM Roadmap 下記のTrendforceの記事によると、 HBM3 : Sams…

GroqのLLM Inferenceが超絶速い件に対する感想

はじめに Xの投稿にて、GroqのLLM Inferenceが超絶速いというのが流れてきます。 groq.com にアクセスすると、 Mixtral 8x7B-32K LIama 2 70B-4k が動きます。デフォルトは、Mixtral 8x7B-32K のようです。 とりあえず、質問してみました。 GroqのTSPがLLM推…

SambaNova SystemsもGbEを付けてくる?

はじめに 昨日、SambaNova SystemsがLLM Inference に PIVOT していたということを書きました。 vengineer.hatenablog.com 今日は、その先、どうするかを見ていきます。 募集 SambaNova Systemsの募集、Principal Engineer, Memory and Interface IP Integra…

SambaNova Systemsは、LLMの推論にPIVOTしたの?

はじめに このブログでも何度も紹介している SambaNoa Systems。 今回は、下位の The Nextplatm の記事を読んだ感想を残します。 www.nextplatform.com SambaNova Systemsの振り返り SambaNova Systemsの振り返り vengineer.hatenablog.com SN10 => SN20 => …

半導体開発で、久しぶりにXの投稿で盛り上がったので、記録に残します。

はじめに 昨日、お昼に、大宮公園の梅園にて、梅を見ながら、南インド料理を堪能しているときに、Xの投稿した下記の内容が久しぶりに盛り上がったので記録として残します。 1989年からお仕事で半導体開発やってきて35年経ちますが今が一番盛り上がっている気…

Tenstorrentのまとめ

はじめに 今日の「半導体チップ雑談」でTenstorrentのことをお話するので、今までブログに書いたものをまとめておきます。 Company Hardware Software に分類して、まとめておきます。 Tenstorrent がこのブログに初めてでてきたのは、 LightMatter (2018.04…

NVIDIA関連のまとめ (2023年版)

はじめに 2023年1月から2023年12月までにこのブログにアップした NVIDIA 関連のもののまとめです。 サマリー 1月 : 2 2月 : 1 3月 : 2 4月 : 5 5月 : 6 6月 : 8 7月 : 5 8月 : 8 9月 : 6 10月 : 2 11月 : 5 12月 : 7 57回です。6日に1回なので、かなり多いで…

書籍 : 夕暮れをすぎて & 夜がはじまるとき

はじめに スティーブン・キング原作の短編集 夕暮れをすぎて 夜がはじまるとき を Kindle本で読み終えたので、記録に残します。 異能機関を読み終えたのは、1月28日だったので、3週間ぐらいですね。 vengineer.hatenablog.com 夕暮れをすぎて : 339頁 夜がは…

NVIDIA Eos Supercomputer は、Aurora の 1/5 の性能?

はじめに 下記のGTC 2022にて発表された NVIDIA Eos Supercomputer に関するブログがアップされています。 NVIDIAがGraceとHopperという名のスーパーチップとEOSスパコンを発表 (2022.3.25) Eos Supercomputer とは、 576台のDGX H100システム In Network Co…

Tenstorrent Worm Holeの動作周波数

はじめに TenstorrentのWohm Holeの動作周波数が分かったので記録として残します。 クロックは3種類 下記の Tenstorrent / TT-Metal の このIssue に Wohm Hole のクロックが載っていました。 Device Telemetry * Device 0: - Core Voltage (V) : 0.72 / 0.9…

Tenstorrent の D2Dは、Blue Cheetah ?

はじめに Tenstorrent は、自社のAI chiplet および RISC-V CPU chiplet を接続するための Die to Die Interface として、Blue Cheetah の IP を選んだようです。 Tenstorrent Selects Blue Cheetah Chiplet Interconnect IP For Its AI and RISC-V Solution…

OpenAI ChatGPTとGoogle Gemini Advancedは、$20/月だけど、内容が違う

はじめに Google が Bard を Gemini というプロダクトとしてリリースしましたね。 japan.googleblog.com そして、Gemini Advanced は、$20/月 で OpenAI の ChatGPT と同じ価格です。 今回は、Gemini Advanced の内容について、見ていきます。 Gemini Advanc…

GPGPUのL3 Cacheは、LLMの性能にどのような影響を与えるのか?

はじめに NVIDIAの下記の論文を見直して、気が付きました。 GPU Domain Specialization via Composable On-Package Architecture GPGPUのL3 Cacheって、LLMの性能にどのような影響を与えるのか? グラフを見てみたら、 下図は上記の論文の Figure 9 です。こ…