Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

2024-01-01から1ヶ月間の記事一覧

OpenVINOの Intel GNA対応

はじめに このブログでは、Intel GNAについて何度か書いています。 そういえば、Intel GNAってあるんだけど使っている? - Vengineerの戯言 Intel VPUのデバイスドライバ - Vengineerの戯言 Intel Meteor LakeにVPUを搭載、Linuxでも使えるかも? - Venginee…

NEDO Project : 高効率・高速処理を可能とするAIチップ・次世代コンピューティングの技術開発

はじめに TIER IVの下記のブログを振り返ってみたら、「NEDO Project : 高効率・高速処理を可能とするAIチップ・次世代コンピューティングの技術開発」の 2023年度の情報が更新されていたので記録として残します。 vengineer.hatenablog.com NEDO Project : …

NVIDIA の NVLINK と Memory Controllerの帯域

はじめに NVIDIA の P100/V100/A100/H100のNVLINKの各ポートとMemory Controllerの帯域を比較してみました。 NVLINK P100 : v1 (20GB/s) x 4 porsts V100 : v2 (25GB/s) x 6 ports A100 : v3 (25GB/s) x 12 ports H100 : v4 (25GB/s) x 18 ports Memory Cont…

TuringがLLM専用アクセラレータHummingbirdを作る理由を聴いて

はじめに 下記の投稿にあるように、TURINGがLLM専用アクセラレータ(Hummingbird)について説明する会に参加しました。 TuringではLLM専用半導体アクセラレーター開発プロジェクト「Hummingbird」を立ち上げて、半導体ですぐれた業績を収めた方をリーダーに現…

NVIDIA Grace-Hopper Superchip のNVLINK C2C の転送帯域

はじめに NVIDIA Grace-Hopper Superchipの間は、NVLINK C2C にて接続されています。 vengineer.hatenablog.com vengineer.hatenablog.com vengineer.hatenablog.com 理論最大転送帯域は片側 450GB/s です。 実測は? Google君に聞いたら、 NVIDIA GH200 Ben…

NVIDIA Graceのメモリ帯域

はじめに NVIDIA Graceのメモリは、LPDDR5X で最大転送帯域は 500GB/s 程度(546GB/s)ということは、下記のブログで紹介しました。 vengineer.hatenablog.com では、実測ではどうなんでしょうか? Google君に聞いてみたら、出てきました。 NVIDIA GH200 Bench…

書籍 : Doctor Sleep

はじめに The Shining => Doctor Sleep ということで、読み終えました。 確か、一度、読んだのですが、ほぼ忘れていました。。。。 Doctor Sleep Doctor Sleep も 映画化されています。 www.youtube.com Doctor Sleep を聞くきっかけは、読者から、ダニーが…

明けましておめでとうございます。

はじめに 今年の目標は、記事数で「FPGAの部屋」を超えることを目標にしていましたが、 下記のように、既に超えているようなので、今年の目標は達成し、何もしなくても、100点です。 もう追い越してますよ。6139記事です。間が抜けているので、これより少な…