Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

AI Cloud Chipの5社 (NVIDIA, AMD, Intel Habana, Google, AWS)

はじめに Al Cloud Chip をまとめてみます。 NVIDIA AMD Intel Habana Google AWS の5社を取り上げます。 何故?Startupを取り上げないのかは、TSMC N7/N6 => N5/N4 => N3 に移行しているものの、 この記事を書いた時は、Startup は N7 までだからです。Samb…

NVIDIA DGX H200、予定通り、Q2.2024 に出荷される

はじめに NVIDIA DGX H200 が予定通り出荷されたようです。 最初のDGX H200 は、(記録のために下記のXの投稿を引用します) First @NVIDIA DGX H200 in the world, hand-delivered to OpenAI and dedicated by Jensen "to advance AI, computing, and humanit…

AMD XDNA2 で性能向上!

はじめに AMD Ryzen 7040シリーズで、Xilinxの AI Engine を AMD XDNA として NPUとしてリリースしています。 vengineer.hatenablog.com その後、Ryzen 8040シリーズにて、NPUの性能をちょこっと上げています。 vengineer.hatenablog.com AMD XDNA 2 AMD の…

書籍 : ビリー・マサーズ

はじめに ひとり読書会、スティーブン・キングの新作 ビリー・サマーズ を読み終えました 上 : 406頁 下 : 433頁 前回の「リーシーの物語」は、3月29日なので、1か月無かったですね。 vengineer.hatenablog.com その間に1冊、読んでいますが。 孫子の兵法 ビ…

Tenstorrent の Blackhole の性能は、1000 8b TOPS、NVIDIA H100 (2000 TOPS)の半分の性能!

はじめに Tenstorrent の Blackhole の性能ですが、8bit であるものの 1000 TOPS 。NVIDIA H100 の FP8 が TensorCore で 2000 TOPS (dense) なので、半分の性能です。 vengineer.hatenablog.com Blackhole の性能 上記のブログにも載せた Tenstorrent のス…

AIアクセラレータ、第3世代が勝負どころか?

はじめに Intel Habana Gaudi 3の詳細が出てきたことはこのブログでも紹介しました。 GPUを含めたAIアクセラレータ。第3世代目が勝負どころでは?と思っています。 第3世代を見てみる NVIDIA : P100 (16nm) => V100 (12nm) => A100 (7nm) AMD : MI100 (7nm) …

NVIDIA B100/GB200/B200、AMD MI350/MI375 のリリース時期

はじめに NVIDIA B100/GB200/B200、AMD MI350/MI375 のリリース時期を Trendforce が予測しています。 www.trendforce.com 各プロダクトのスケジュール 下記の図は、上記の Trendforce の記事から説明のために引用します。 B100 : Q3.2024, HBM3e-8hi/192GB …

Tenstorrent の Blackhole が上がってきたようだ。Blackhole は、AI Accelerator ではなく、AI SoC なのか?

はじめに Tenstorrent の Blackhole が上がってきたようです。 Jim san の Xの投稿に、チップおよび評価ボードの写真が載っています 以下、Jim san の Xの投稿を説明のために引用します。また画像も引用します。 記録のために残します。 3月7日のブログには…

Alder Lake-Nな ODROID-H4

はじめに このブログでも大昔にODROIDを取り上げていました。Cortex-Aシリーズ搭載品です。 一番古いのは、2013年。10年前です。Odroid-XU vengineer.hatenablog.com この他にもODROIDについては、下記にあります。 vengineer.hatenablog.com ODROID-H4 ODRO…

Alder Lake-N300 は、Core i3 N300

はじめに このブログで一番アクセスがあるのは、 vengineer.hatenablog.com で、2番目が vengineer.hatenablog.com で、Alder Lake-N関するものです。 Intel Alder Lake-N97 とは?でも書きましたが、Alder Lake-Nなプロダクトとしては、 N50 (Embedded) N95…

AMD MI350 は、TSCM 4nm のようだけど、構成はどうなるの?

はじめに Xの投稿に流れてきた、AMD MI350 の情報について、記録しておきます。 tom's HARDWARE がまとめてくれています。 www.tomshardware.com AMD MI350 どうやれ、TSMC 4nm で 2024/H2 に出てくるようです。 MI300が TSMC 5nm/6nm だったので、Compute D…

Google TPU v5p も chiplet だった

はじめに Google TPU v5e が chiplet だったというのは下記のブログで紹介しました。 vengineer.hatenablog.com TPU v5e は、Compute die + I/O die なので、TPU v5p も Compute die + I/O die のはずと思い、調べまくったら、見つかりました。 TPU v5p の …

Q1.2024の世界のSmartphoneシェア (IDC版)

はじめに Smartphoneの世界シェアのアップデート 前回は、こちら。 vengineer.hatenablog.com Q4.2023 Apple : 23.3% Samsung : 15.9% Xiaomi : 12.8% Oppo : 11.9.% Transsion : 8.8% Q1.2024 下記のIDCのデータが元ネタ www.idc.com 下記の表は、上記のIDC…

GoogleもArmサーバー用SoCを開発!

はじめに ずーと噂だった Google の Armサーバーの件。Googleから公式に発表がありましたね。 Introducing Google’s new Arm-based CPU | Google Cloud Blog Google Axion 下図は、上記のGoogleのブログから説明のために引用します。 この図、短辺側に DRAM …

Google TPU v6e/v6p の発表時期を妄想する

はじめに Google TPUに調べてみたら、面白いものを見つけました。 Google TPU v5e/v5p に開発時期です。 TPU v5e/v5p の開発時期 下記は、とある人のLinkedinの職歴の部分です。説明のために引用します。 TPU v5e and v5p : 2020.10 - 2021.11 (1年2か月) TP…

Google TPU v6 は、TSMC 3nmっぽい?

はじめに 下記のブログに書いたように、Boradcomの資料からGoogle TPUのロードマップがわかりました。 vengineer.hatenablog.com 今日は、TPU v6 は TSMC 3nm で作っているのかを確認していきます。 TPU のロードマップ Broadcomの資料に下記の図が載ってい…

Intel NPU Linix driverを公開? Meteor Lake は、Windows 11だけでなく、Ubuntu 20 でも使えるって

はじめに Xの投稿に、Intel NPUのLinux driverの情報が流れてきました。 www.phoronix.com Linux NPU Driver v1.2.0 github に公開されています。 github.com 上記の記事にもありますが、Driverの構造の図を引用します。 この中に、NPU Compiler があります…

Google TPU の nickname

はじめに SemiAnalysisに、Google TPU の nickname が載っています。 www.semianalysis.com Google TPU の nicknae v4 : Pufferfish v4i : Pufferlite v5p : Viperfish v5e : Viperlite v6p : Ghostfish v6e : Ghostlite v7 : Sunfish v7e : Sunlite のよう…

Intel Habana Gaudi 3 の詳細、Training では H100よりちょっといい、InferenceではH200よりちょっと悪い!感じですかね

はじめに Intel が Gaudi 3 の詳細を「Intel Vision 2024」で発表しました。 www.intel.com 詳細が PC Watch の下記の記事にあります。そこに載っているスライドを引用します。 pc.watch.impress.co.jp Gaudi 3 2023年5月には tape out vengineer.hatenablog…

Meta MTIA v2 は、TSMC 5nmで、MTIA v1 の強化版、次は、2 die + HBM へ

はじめに Meta が MTIA v2 をアナウンスしました。 ai.meta.com MTIA v1 はこちら ai.meta.com Meta MTIA v2 下記の die shot は上記の Meta のサイトから説明のために引用します。 下記は、ブロック図です。同様に説明のために引用します。 カッコの中は、M…

TSMCの2023年のトップカスタマー

はじめに 2022年のTSMCのトップカスタマー(7社)については、昨年の6月にこのブログにアップしました。 vengineer.hatenablog.com 2023年の情報がXの投稿に流れてきたので、記録します。 TSMC’s Top 7 Customers in 2023, media report, citing unnamed inves…

Versal AI Edge Series Gen 2 は、最大 Arm Cortex-A78が8個、R52が10個も入っている。最小規模では、A78 x 4 + R52 x 4 !

はじめに AMD(Xilinx)が Versal AI Edge Series Gen 2 を発表しました。 www.amd.com Versal AI Edge Series Gen 2 なのは、AI Enginer が 第二世代になったからなのでしょうか? Versal AI Edge Series Gen 2 下図は、サイトからのものです。説明のために引…

中国 Intellifusion のAIチップは、RISC-Vベース

はじめに ちょっと前に、中国 Intellifusion のAIチップが $140で安いぞー、というのが話題になりました。tom's HARDWARE でも下記のように取り上げています。 www.tomshardware.com 下図は、上記の記事か説明のために引用します。 2024年H1 : DeepEdge10Max…

Groqの設置台数!42,000、今年(2024年)に、220,000に!

はじめに 今日のブログは、Groq についてです。 下記の eetimes の記事からです。 www.eetimes.com かなりスゴイ 既に、Groq カスタマとしては、 70,000 開発者登録 19,000 アプリケーション そして、LPUに関しては、 42,000 台設置 今年は、220,000 台設置 …

Moore's Law Current Transistor Count

はじめに Xの投稿を眺めていたら、Moore's Law Current Transistor Count というサイトがあることを知りました。 Moore's Law Current Transistor Count www.transistorcount.com 下図は、現時点でのグラフのスクリーンショットです。説明のために引用します…

2024年1月2月3月のNVIDIA

はじめに NVIDIAに関するものが多くなり、世の中的にも盛り上がっているので、2024年の1月と2月にアップしたNVIDIA関連をまとめます。 1月 7回 NVIDIA Graceのメモリ帯域 (2024.01.02) NVIDIA Grace-Hopper Superchip のNVLINK C2C の転送帯域 (2024.01.03) …

SYCL 2020の書籍「Data Parallel C++ Programming Accelerated Systems Using C++ and SYCL second edition」

はじめに このブログでも紹介した、UXL Fundation vengineer.hatenablog.com Intel oneAPI をみんなで使っていこう!ということに。 oneAPI のメインとなるのが、SYCL。先日、SYCL2020 対応の oneAPI がリリースされました。 www.intel.com ツールはあるんだ…

NVIDIA H200のLIama2 70Bの性能

はじめに NVIDIAがH200の性能を発表しました。 developer.nvidia.com LIama2 70B の性能 下図は上記のNVIDIAのBlogから説明のために引用します。 H100に対して、 Offline : 1.5倍 Server : 1.4倍 そして、もう一つ blogs.nvidia.com 下記の図は上記の記事か…

IntelのFORM 8-K (April 2, 2024)を眺めてみて、Intel Foundryが分社するんじゃないのでは?と思った件

はじめに Intelが2024年4月2日に公開した FORM 8-K の資料を眺めていたら、なんか、面白いなーと思ってXに投稿した下記のもの Intelの 2023, 2022, 2021 の売上と利益パッと見、伸びているように見える。下を見ると、2023, 2022, 2021 になっているので注意h…

書籍 : 孫子の兵法

はじめに PIVOTの下記のビデオを観て(説明のために引用します)。あれ、守屋さんって、こんなにお若いの?と思いながら、「孫子の兵法」を思い出し、Prime Readingにあったので読みました。 www.youtube.com 孫子の兵法 孫子の兵法―――考え抜かれた「人生戦略…