Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

2024-01-01から1年間の記事一覧

中国 Intellifusion のAIチップは、RISC-Vベース

はじめに ちょっと前に、中国 Intellifusion のAIチップが $140で安いぞー、というのが話題になりました。tom's HARDWARE でも下記のように取り上げています。 www.tomshardware.com 下図は、上記の記事か説明のために引用します。 2024年H1 : DeepEdge10Max…

Groqの設置台数!42,000、今年(2024年)に、220,000に!

はじめに 今日のブログは、Groq についてです。 下記の eetimes の記事からです。 www.eetimes.com かなりスゴイ 既に、Groq カスタマとしては、 70,000 開発者登録 19,000 アプリケーション そして、LPUに関しては、 42,000 台設置 今年は、220,000 台設置 …

Moore's Law Current Transistor Count

はじめに Xの投稿を眺めていたら、Moore's Law Current Transistor Count というサイトがあることを知りました。 Moore's Law Current Transistor Count www.transistorcount.com 下図は、現時点でのグラフのスクリーンショットです。説明のために引用します…

2024年1月2月3月のNVIDIA

はじめに NVIDIAに関するものが多くなり、世の中的にも盛り上がっているので、2024年の1月と2月にアップしたNVIDIA関連をまとめます。 1月 7回 NVIDIA Graceのメモリ帯域 (2024.01.02) NVIDIA Grace-Hopper Superchip のNVLINK C2C の転送帯域 (2024.01.03) …

SYCL 2020の書籍「Data Parallel C++ Programming Accelerated Systems Using C++ and SYCL second edition」

はじめに このブログでも紹介した、UXL Fundation vengineer.hatenablog.com Intel oneAPI をみんなで使っていこう!ということに。 oneAPI のメインとなるのが、SYCL。先日、SYCL2020 対応の oneAPI がリリースされました。 www.intel.com ツールはあるんだ…

NVIDIA H200のLIama2 70Bの性能

はじめに NVIDIAがH200の性能を発表しました。 developer.nvidia.com LIama2 70B の性能 下図は上記のNVIDIAのBlogから説明のために引用します。 H100に対して、 Offline : 1.5倍 Server : 1.4倍 そして、もう一つ blogs.nvidia.com 下記の図は上記の記事か…

IntelのFORM 8-K (April 2, 2024)を眺めてみて、Intel Foundryが分社するんじゃないのでは?と思った件

はじめに Intelが2024年4月2日に公開した FORM 8-K の資料を眺めていたら、なんか、面白いなーと思ってXに投稿した下記のもの Intelの 2023, 2022, 2021 の売上と利益パッと見、伸びているように見える。下を見ると、2023, 2022, 2021 になっているので注意h…

書籍 : 孫子の兵法

はじめに PIVOTの下記のビデオを観て(説明のために引用します)。あれ、守屋さんって、こんなにお若いの?と思いながら、「孫子の兵法」を思い出し、Prime Readingにあったので読みました。 www.youtube.com 孫子の兵法 孫子の兵法―――考え抜かれた「人生戦略…

TURINGのLLM ASIC開発用に巨大FPGAボードを購入したと

はじめに 昨日、Xの投稿に、TURINGのYamaguchiさんが下記のような投稿がありました。説明のために引用します。 最強クラスのFPGAボードが納品されました。生成AIの高速推論に向けた研究開発に活用していきます pic.twitter.com/R8SdMOTzqc— Yu Yamaguchi | T…

TenstorrentがMosChip Technologiesとパートナーシップを結ぶ?

はじめに Tenstorrent が MosChip Technologies と Tenstorrent の RISC-V solution の設計に関してパートナーシップを結んだとアナウンスしました。 tenstorrent.com MosChip Technologies MosChip Technologies moschip.com インドの会社のようです。 CEO …

MatX : LLM Inference用半導体を開発しようとしているStart up

はじめに Xの投稿に流れてきた MatX という会社。 Ex-Google chip designers have launched startup MatX to develop AI chips specifically for LLMs, Bloomberg reports. “Inside of Google, there were lots of people who wanted changes to the chips f…

お仕事始めて、35年が経ち、今年定年を迎えます

はじめに 昨年の4月1日のブログ vengineer.hatenablog.com お仕事始めて、35年が経ちました。早いものです。本当に早いものです。 35年前の3月31日。ホテルオークラ東京にて入社式を行い、そのまま観光バスで研修所に送り込まれた日を何となく思い出していま…

Marvell -san も 2nm に参戦

はじめに TSMC 2nm のカスタマが増えました。Marvell -san が参戦表明です。 www.marvell.com Marvell 2nm への道 Marvellのブログによると、 Behind the Marvell 2nm platform is the company’s industry-leading IP portfolio that covers the full spectr…

3月の映画鑑賞

3月の映画鑑賞 : 17本 2月の映画鑑賞 : 25本 1月の映画鑑賞 : 24本 2024年 : 小計 : 49本 2007年~2023年 : 3625本 Gメン(2023) 隣人X 疑惑の彼女 (2023) ペイン・ハスラーズ (2023) / PAIN HUSTLERS SISU/シス 不死身の男 (2022) / SISU グースバンプス …

Qualcomm、Intel、Googleが共同で、王者NVIDIA CUDAに対抗?

はじめに Xの投稿に流れてきた、TrendForceのこれ Intel, Qualcomm, Google, and other tech giants are said to be joining forces to challenge NVIDIA’s dominance in the market, reportedly looking to guide developers to migrate away from NVIDIA'…

書籍 : リーシーの物語

はじめに スティーブン・キングの作品。 リーシーの物語 を読み終えました。 前回の短編集「夕暮れをすぎて & 夜がはじまるとき」から2か月以上もかかってしまいました。 vengineer.hatenablog.com まー、その間に3冊読んでいるので。 一度読んだら絶対に忘…

HBM x 12個のパッケージは、Meta?

はじめに 今回もBroadcomの資料から。 vengineer.hatenablog.com にて、紹介した、Meta MTIA この紫の 部分をよーく見たら、なんと! HBM x 12 90頁、説明のために引用します。この右側にある HBM x 12 のパッケージ。 89頁。説明のために引用します。 下の …

Meta MTIA v1 は、Intel NNPI の置き換えで、DLRM用途に開発していた?

はじめに MetaのMTIAについては、先日の下記のBroadcom の資料のブログで書きました。 vengineer.hatenablog.com 今回は、MTIA v1 の開発の目的について、見ていきます。 MTIA v1 は、NNPIの置き換えだった www.youtube.com www.youtube.com どうやら、MTIA …

Google TPU v5e が chiplet だったという件

はじめに Google TPU v5e は、実は chiplet だった。 Google TPU v5e については、2023年8月30日に発表時にこのブログでも取り上げました。 vengineer.hatenablog.com その後、も取り上げ、v5e は、v4i の後継で基本的には、推論用チップとして開発・運用さ…

Google TPU の HBM が HBM2/HBM2e である理由

はじめに Google TPUのHBM v2 (2017) : HBM2 v3 (2018) : HBM2 v4 (2021): HBM2 v4i (2021) : HBM2 v5e (2023) : HBM2 v5p (2023) : HBM2e のように、HBM2が主に使われています。このことについては、昨年(2023年4月12日)にこのブログでも紹介しています。 v…

書籍 : 「tsmc 世界を動かすヒミツ」を読み終えた

はじめに vengineer.hatenablog.com の続き 書籍 : 「tsmc 世界を動かすヒミツ」を読み終えました。 2日、かかりましたね。 気になったところ (Xへの投稿) 後半は、AndroidのKindleから直接共有したので画像入りです。 「当時のIBMは提携条件にこだわり、…

NVIDIA B100を妄想する(その5)、HGX B200のUBB

はじめに NVIDIA HGX B200 の写真がNVIDIAのサイトで公開されていたので、眺めていたら、UBB上の配線が何となくわかったので記録に残します。 HGX B200 HGX B200 の写真は、ここにアップされました。 下図がその写真です。説明のために引用します よーく見る…

Cerebras AI Day 2024 の講演ビデオの内容をざっくりまとめました。Networkは、CS-1/CS-2 の 100Gbps から CS-3 では400Gbs/800Gbps に

はじめに 先日発表があったCerebras SystemsのCS-3については、下記のブログに書きました。 vengineer.hatenablog.com 今日の半導体チップ雑談では、この CS-3 についてお話します。 そして、Cerebrasが Cerebras AI Day 2024 というプライベートイベントを…

書籍 : 「tsmc 世界を動かすヒミツ」を読み始めた

はじめに vengineer.hatenablog.com で紹介した「tsmc 世界を動かすヒミツ」が3月22日(金)に発売されました。Kindle版も同時発売だったので、朝、ポチって、ちょこっと(はじめに)だけ読みました。 今日、土曜日はいつもなら、お外に出かける日ですが、あいに…

Intel NPU(VPU) の OpenVino plugin

はじめに 今回は、Intel が Meteor Lake にて、NPU(VPU)をチップの中に取り込んでいるので、Intelが提供しているOpenVinoではどうなっているのかを確認する会です。 下記の部分が NPU plugin にようです。 github.com Intel NPU 対応している NPU は、ここに…

Broadcom が攻めてきて、NVIDIA <=> Broadcom & (AMD or Google or Meta or ???) の構図がはっきりしてきた!

はじめに 昨日、Xで下記の投稿が流れてきました。 Broadcom Enabling AI Infrastructure Investor Meeting の URL で、まー、普通、見ませんよね。 あたしは、見てしまったので、色々と妄想し始めました。 今日のブログは、Broadcom の 上記の資料を眺めて、…

NVIDIA B100を妄想する(その4)、振り返り

はじめに NVIDIA B100の発表を受けて、妄想するを振り返ります。 NVIDIA B100 を妄想する (その1) NVIDIA B100 を妄想する (その2) NVIDIA B100 を妄想する (その3) N3Eではなかった B100は、ずーと、N3Eだと思っていました。実際は、N4P。 よくよく考えてみ…

AMD MI250X/M300Xのお値段

はじめに XのTLに流れてきたので、記録に残します。 Lamini が Startup Program ということで、MI250X と MI300X をお安く、Startup に貸し出すキャンペーンを始めました。 Lamini 下記の図は、2024.02.27時点での LAMINI のホームぺージにあるものです。説…

書籍 : 暇と退屈の倫理学

はじめに いつものようにYoutubeを見ていたら、「暇と退屈の倫理学」なる本が紹介されていました。 定年後、暇になるので、暇をどう潰すかを常日頃考えていたので早速、Kindle版をポチリました。 暇と退屈の倫理学 実は、哲学の本だった タイトルがタイトル…

NVIDIA Blackwellは、チップではなく、システム!

はじめに NVIDIA GTC2024にて、Blackwell の発表がありました。 革ジャンCEO曰く 「Blackwellは、チップではなく、システム!」 注目すべき点は、Ampereの時はDGX A100、Hopperの時はDGX H100がメインの内容だったかが、Blackwellでは、DGX GB200 NVL72 がメ…