Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう！

AMD MI250Xの復習

はじめに

このツイートに流れてきた画像を説明のために引用します。

  • In-package Infinity Fablic / 400GB/s
  • Scale Up : External Infinity Fablic / 500GB/s
  • Coherent CPU-GPU Memory 3rd Gen Infinity Architecture / 144 GB/s
  • Scale Out : PCIE Gen4 ESM / 100 GB/s

この部分を復習します。

Crusher

Crusher のことを書いた時の下図を説明のために引用します。ここに、

  • Infinity Fabric GPU-GPU (200+200 GB/s)
  • Infinity Fabric GPU-GPU (50-50 GB/s)
  • Infinity Fablic CPU-GPU (36-36 GB/s)
  • PCIe Gen ESM (50+50 GB/s)

とあります。

最初のところと合わせると

  • In-package Infinity Fablic / 400GB/s <=> Infinity Fabric GPU-GPU (200+200 GB/s)
  • Scale Up : External Infinity Fablic / 500GB/s <=> Infinity Fabric GPU-GPU (50-50 GB/s) が 5組
  • Coherent CPU-GPU Memory 3rd Gen Infinity Architecture / 144 GB/s <=> Infinity Fablic CPU-GPU (36-36 GB/s) が2組
  • Scale Out : PCIE Gen4 ESM / 100 GB/s <=> PCIe Gen ESM (50+50 GB/s)

となり、あっていますね。

おわりに

確認のために、復習しました

関連ブログ

vengineer.hatenablog.com

SiMaのMLSoCの物が出てきたようだ

はじめに

このブログでも何度か紹介した SiMa.ai の MLSoC

vengineer.hatenablog.com

vengineer.hatenablog.com

sima.ai

下図は、SiMa.ai のサイトから説明のために引用します。

MLSoC のスペックは？

Product Brief によると、

  • Cortex A65 (Dual Thread) x 4
  • Computer Vision Processor : EV74
  • Video Decoder : H.264/H.265 4KP60 x1
  • Video Encoder : H.264 4KP30 x1
  • SiMa.ai Machine Learning Accelerator (50 TOPS/5W)
  • LPDDR4 32bit x 4
  • On-Chip Memory : 4MB
  • PCIe Gen4 x8
  • Ethernet 1GbE
  • SDIO/eMMC
  • SPI8 x2
  • I2C x2
  • GPIO x32

です。

一般的なスマホ用SoCっぽいですね。LPDDR4 32bit が 4個もあるのは凄い。。。PCIe Gen4 も x8 ですね。

下記で予測した内容と比べてみます。

vengineer.hatenablog.com

  • MIPI-CSI x4 が無い
  • 10GbE x2 => 1GbE x4
  • PCIe Gen4 x16 => Gen4 x8

外部インターフェースは顧客によって変わってくるので。。。

MLSoC Evaluation Board

評価ボードの Product Brief の図を説明のために引用します

ブロック図 (説明のために引用します)

おわりに

Qualcomm のスマホ用SoCと同じぐらいじゃないと売れなさそう

$100したら高いので。

ちなみに、$100として、10000個 x $100で、$1M。20万個売っても、$20M あれ、元取れる？

$140M 集めているので、とりあえずは大丈夫そう

SamsungのCXL Memory Expander

はじめに

SamsungがCXL対応もメモリモジュールを発表したようですね。

www.nextplatform.com

CXL に接続する

どうやら、CXL 2.0 x8 に接続できるメモリモジュールで、DDR5を4.8GHzで動かした512GBまで搭載可能。

サーバーで アクセラレータ(GPUなど)を接続しないのであれば、x8 なら 8枚とか16枚ぐらいはさせますね。

ただし、下図(説明のために引用します) のように、PCIe x8 のエッジカードになっているので、縦に積むと高さが必要。 一方、横に積むとなると、コネクタが横に並ぶようになって配線が大変そう(そのぐらい、OKなら問題なさそうですが)

おわりに

これを使うと、8枚で 4TB、16枚で 8TB までは拡張できそうですね。 お値段、結構しそうですが。。。。

先日、このブログで取り上げた、Samsung の DDR5、32Gb 8H 3DS にて、512GBのDIMMができるようなんですが、同じ容量なら、DIMMでいいじゃんという気持ちはあります。

vengineer.hatenablog.com

GroqのHot Chip 34でのビデオ？

はじめに

Groqの公式Tweet から

Groq HotChips 2022: Groq Software-Defined Scale-out Tensor Streaming Multi-Processor

25:36の講演ビデオ

www.youtube.com

スライドは、どこ？ ユーザー登録すれば、ここからダウンロードできるっぽいです。

こちらの記事の下記の部分(ビデオで言っていたんだろうな)

“Determinism enables this software-defined hardware approach. We’re not about abstracting away the details. We’re about controlling the hardware underneath,” said Dennis Abts, chief architect at Groq.

Groqはハードウェアをすべて制御できるって。あ、それって。。。。

www.hpcwire.com

スライドでは、下記機能モジュールについて、今まで公開されていたものより、詳しくなっている気がします。

34頁の「Scale-out Organization」の右上のケーブルの部分を説明のために引用します。

各GroqCardからは7ペアのケーブルが出ています。ということは、他の7枚のGroqCardと接続していることになります。

35頁の「Dragonfly Topology」では、接続図が載っていた(説明のために引用します)。

36頁のGroq Scale-out Dragonfly Topologyでは、各GroqCardから4Global Ports (Inter-node)とあります(説明のために引用します)。

C2C(x4) は全部で16個あるので、ノード内の他の7枚で 14個 (x4 x2 x 7)、残りの2個 (x4 x2 = 8) を4 Global Ports として使うのだろうか？

おわりに

Groq、DRAMを積んだGroqChip2って、いつ出てくるのだろうか？

8月の映画鑑賞

8月、37本、(内、アマゾンプライムは4本)

1月-7月までの合計 : 222 本 : 2973 + 222 = = 3195 本

StarFive VisionFive 2、JH7110搭載ボード

はじめに

StarFiveのJH7000については、昨年の11月に2回、このブログに書きました。

vengineer.hatenablog.com

vengineer.hatenablog.com

今回は、StarFive VisionFive 2 が出たようなので、見てみます。

StarFive VisionFive 2

StarFive VisionFive 2には、JH7110 が搭載されているようです。

StarFive JH7110

-quad-core 64-bit RISC-V (SiFive U74 – RV64GC) processor @ up to 1.5 GHz - Imagination BXE-4-32 GPU supporting OpenGL ES 3.2, OpenCL 1.2, Vulkan 1.2 - 4Kp30 H.265/H.264 video decoder/1080p30 H.265 video encoder - System Memory : 2GB, 4GB, or 8GB LPDDR4 - Storage : MicroSD card slot, eMMC flash module socket, M.2 M-Key socket for NVMe SSD, QSPI flash for U-boot - Video Output : HDMI 2.0 port somehow limited up to 4Kp30 / 4-lane MIPI DSI connector up to 2Kp30 / 2-lane MIPI DSI connector - Camera I/F : 2-lane MIPI CSI camera connector up to 4Kp30 - Audio : 3.5mm audio jack - Networking : 2x Gigabit Ethernet RJ45 ports - USB : 2x USB 3.0 ports, 2x USB 2.0 ports - Expansion : 40-pin GPIO color-coded header - Misc : Reset button, fan header, debug header - Power Supply : Via USB-C port with PD support up to 30W / 5V DC via GPIO header (3A+ required) / PoE via additional module - On-board PMIC - Dimensions : 100 x 72 mm (Pico-ITX form factor)

www.cnx-software.com

VisionFive V1 に対して、

  • CPU : Sifive U74 (Dual-core => Quad-core)
  • GPU が Imagination BXE-4-32
  • GbE が2個に
  • Video out : HDMI 1.4/1080p60 => HDMI 2.0/4Kp30
  • 4x USB 3.0 Ports => 2x USB 3.0 ports, 2x USB 2.0 ports

お値段

  • 2GB : $55
  • 4GB : $65
  • 8GB : $85

おわりに

www.hackster.io

書籍「越境学習入門」とアメーバ型キャリア

はじめに

先週の土曜日(8/27)にアマゾンでセールを始めたので、ほしいものリストに登録してあるものでお安くなっているものはあるかな？と眺めていたら、

越境学習入門 Kindle版が半額の891円になっていたので、ポチりました。

越境学習とは？

1章ぐらいまでは、越境学習って、何？ということが書いてあって、あー、そうね。あたしも、似たようなことやってきたな？と思ったのです。

50過ぎて大企業からベンチャーに転職したので、これも越境学習かな？と思ったがどうやら違うっぽい。

越境学習とは？ "冒険者” を育てる学習のメカニズム

ということでした。

それから、

Amazonのサイトには、「この1冊で 企業と個人が越境学習を開始・実践する方法がわかる!!」

ともあります。

企業と個人というよりは大きな会社に所属している個人(問題意識をそれなりに持っていて行動ができる人)って感じました。

越境学習って、あたしのアメーバ型キャリアと似ている？

越境学習って、このブログに書いた「アメーバ型キャリア」と似ているねと。

アメーバ型キャリアについては、こちら。

vengineer.hatenablog.com

あたしの「アメーバ型キャリア」では、自分のできる(得意な)領域の近傍を攻めて、少しづつ領域を増やしていく。 というもの。

越境学習入門の中の「ホーム」は、自分のできる(特異な)領域で、「アウェイ」は近傍。って感じ。。。 越境学習入門では、「ホーム」(だいたい大きな会社)で「アウェイ」(ベンチャーやNPO)が多くて、期間も半年とか1年で。だいたい、1回限り。。

「アメーバ型キャリア」だと、少しづつ「アウェイ」を何度も経験できるのが特徴。この何度もというのがポイント。何度もやっていれば、それが当たり前になるからね。。。それから、越境学習入門では、「ホーム」と「アウェイ」の間のギャップが大きいけど、「アメーバ型キャリア」はあくまでも自分ができる(得意な)領域の近傍なのでギャップが少ないということ。

まー、越境学習入門では、大きな会社での施策になるので、そのギャップが意味を持っているのでしょうがない。。。

それから、越境学習入門では、あくまでもビジネス。。。越境学習入門で紹介されている越境学習をサポートする企業もビジネスとしていやっているので。

「アメーバ型キャリア」は、あくまでも個人。自分のキャリアに幅を持たせ、突然お仕事無くなっても大丈夫な状態を作っておいて、心の余裕を保つための作戦なんです。

越境学習入門は、越境学習のビジネス版とすると、個人版があると、いいのかな？と思いました。ただし、その場合はビジネスになるか？は疑問です。

とは言え、越境学習入門に書いてあったことは、あたしが経験してきたことに重なる部分も多くあり共感しました。

読んでも損はないと思います。

コスパやタイバを考えて読書をしなくなっているのでみなさんとは感覚がかなり違うかもしれませんが

おわりに

筆者の石山 san に反応していただいたので、ちょっとやり取りをしました。

筆者の方とやり取りができる機会があるのがTwitterの醍醐味ですね。