Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

Edge TPU の検索結果:

Google Pixel 8 の SoC (G3) の EdgeTPU は2個 (その3)

…oC (G3) の Edge TPU は 2個というのは、下記のブログで紹介しました。 vengineer.hatenablog.com 今回は、デバイスドライバをもう少し掘ってみたので、2個である証拠が見つかりましたので、記録として残します。 リセット関係 リセット関係の edgetpu_mobile_firmware_reset_cpu という関数の中で EDGETPU_REG_RESET_CONTROLという名前のレジスタにアクセスしています。 if (!assert_…

Google Tensor G3の Ttrusty OS関連を眺めてみた

はじめに Google Tensor G1/G2の Ttrusty OS って何? というタイトルのブログを書いたのが、今年の1月 vengineer.hatenablog.com G3 の Trusty OS 関連を見てみた。 デバイスドライバの位置 G1/G2 とは違う repo に、G3 の デバイスドライバがありました。 G1/G2 : refs/tags/android-14.0.0_r0.7 - kernel/gs - Git at Google G3 : ref…

Google Pixel 8 の SoC (G3) の EdgeTPU は2個 (その2)

はじめに 昨日のブログで Google Pixel 8 の SoC (G3) の EdgeTPU のデバイスドライバの Repo (rio) ができ、その後、ソースコードが公開されていた。 vengineer.hatenablog.com G3 の コード名は ZUMA ? Google君の生成AIに聞いたら、下記のような回答を得られた pic.twitter.com/vU66XmOtQ0— Vengineer@ (@Vengineer) 2023年10月13日 ZUMA は…

Google Pixel 8 の G3 の Edge TPU のコード名は rio ?

… の中に入っている Edge TPU のコード名は、rio ? の模様。 下記のXの投稿で知りました。説明のために引用します。 G3のedge tpuってrioっていうの?— nb.o (@Nextremer_nb_o) 2023年10月10日 どこにあるのか? G1/G2のEdge TPUのデバイスドライバのソースコードは下記にあります。 kernel/google-modules/ - Git at Google abrolhos : G1 janeiro : G2 ri…

Google Tensor G1とG2を使ったプロダクトとedge TPU

… Pro G1 の edge TPU (abrolhos) gs101-tpu.dts に、G1 の edge TPU (abrolhos) の情報がありました。 compatible = "google,edgetpu-gs101" とあります。 動作周波数は、 1,024MHz 967MHz 836MHz 627MHz 455MHz 266MHz / { /* TPU */ edgetpu: abrolhos@1CE00000 { compatible = "google…

Google Tensor G2 の Edge TPU のデバイスドライバからわかったこと!(その5)

…nsor G2 の Edge TPU のデバイスドライバからわかったこと!(その5) debug driver Google Tensor G1 と G2 の debug 用 コードは、ここにあります。 gs101-itmon.c gs201-itmon.c この2つの内容の違いは、gs201-itmon.c に、AUR0/AUR1 というキーワードがあるということ。この AUR0/AUR1 は、GXP (DSP) に関係するっぽい。つまり、DSP の codename の …

Google Tensor G1/G2のまとめ

…t DSP の追加 Edge TPU が新しくなった? Google Tensor G1のベースとなったSoCは、Samsung Exynos2100 です。Exynos2100の仕様は、 CPU : Cortex X-1 x 1@2.9GHz + A78 x 3@2.8GHz + A55 x 4 @ 2.2GHz GPU : Mali G78 MP14 NPU x 3 + DSP AI Engine CPUの構成は、G2と似ていますね。GPUはコア数はちょっと少ない感じです…

Google Tensor G2 の Edge TPU のデバイスドライバからわかったこと!(その4)

…nsor G2 の Edge TPU のデバイスドライバからわかったこと!(その4) vengineer.hatenablog.com にて、Google Tensor G1の Edge TPU のデバイスドライバ (Android 12)の中の mailbox のこの部分に /* mailbox types */ #define EDGETPU_EXT_MAILBOX_TYPE_TZ 1 #define EDGETPU_EXT_MAILBOX_TYPE_GSA 2 #def…

Google Tensor G2 の Edge TPU のデバイスドライバからわかったこと!(その3)

…nsor G2 の Edge TPU のデバイスドライバからわかったこと!(その3) その1の後半で取り上げて、AOC のデバイスドライバのソースコードも眺めてみたら、もう少しわかったことがありました。 Google Tensor G2 の Edge TPU (janeiro) の下記のmailbox の部分にあった、EXT_DSP_MAILBOXES がありました。 #define EDGETPU_NUM_VII_MAILBOXES 7 #define EDGETPU_NU…

Google Tensor G2 の Edge TPU のデバイスドライバからわかったこと!(その2)

…nsor G2 の Edge TPU のデバイスドライバからわかったこと!(その2) その1の後半で取り上げて、GXP のデバイスドライバのソースコードも眺めてみたら、もう少しわかったことがありました。 GXP のソースコード Google Tensor G2 の Edge TPU (janeiro) の下記のmailbox の部分にあった、EXT_DSP_MAILBOXES がありました。 #define EDGETPU_NUM_VII_MAILBOXES 7 #defin…

Google Tensor G2 の Edge TPU のデバイスドライバからわかったこと!(その1)

…sor G2 内の Edge TPU のデバイスドライバのソースコードを眺めたので記録として残します。 vengineer.hatenablog.com Google Tensor G1 内の Edge TPU のデバイスドライバについては、下記のブログを見てください。 vengineer.hatenablog.com Google Tensor G2 の Edge TPU の codename は、janeiro Google Tensor G1 の Edge TPU の …

USB StickなAcceleratorって、どこにいったの?

…0) Google Edge TPUが他を全滅させるが、。。。 (2019/03/12) OpenVINOのMovidusのPlugInがオープンソース化 (2019/06/14) NCC S1 Neural Network Computing Card (2019/09/02) Rochchip RK1808 AI Compute Stick (2019/10/11) Gyrfalcon社の5801は、LGのスマホにも搭載されていた (2019/11/20) Intel N…

Google Pixel 7 と Tensor G2

… G710MP07 Edge TPU ISP : 8bit => 10bit みたいです。 CPUコアは Armv8 のままですね。Armv9 ではないんですね。 GPU は、Armv9 の発表で出てきた G710になり、コア数が20から7に変わったんですね。コア数そんなに変わるものかな? 下記の記事にG78とG710の性能差が出ていますね。 Mali-G710は、従来モデルの「Mali-G78」と比べて、処理性能が20%、エネルギー効率が20%、ML性能が35%向上。 処理…

Coral Dev Board MicroがComing Soon !

…Cに、Google Edge TPUを接続! NXP i.MX RT1176がSoC。このSoCとUSB 2.0でEdge TPUを接続しているっぽい! www.nxp.com 説明のために、NXP i.MX RT1176 を引用します。 PCIe or USB 3.0 は無いっぽいです。USB 2.0 OTGがあるようなので、ここに Edge TPU を接続しているんでしょうね。 USB 2.0 だと転送が遅いですが、Cortex M7(max 1GHz) or M4(ma…

Google Edge TPUのハードウェアいろいろ

…めに Google Edge TPUに関して、ハードウェアに関して、ちょっとまとめてみます。 Pixel 4 に搭載されている ASIC 内のEdge TPU Google Coral の Edge TPU Pixel 6に搭載されている Google Tensor 内のEdge TPU Google Tensor の AI Benchmark は、この時点でトップです。 細かいところでいろいろ Multi-Chip Package Google Tensorのデバイスドライ…

Google Tensor G1

…a / Pixel 3a XL / Pixel 2 XL / Pixel 2 / Pixel / Pixel XL の順です。Edge TPUを搭載していない Pixel は、QualcommのSnapdragonなのでそれほど速くないんですよね。ちなみに、Snapdragon 888搭載スマホでは、NNAPI 1.1 (FP16)で、13000弱、NNAPI 1.2 (FP16)で26500前後ですので、今回のGoogle Tensorの性能向上は、かなり大きいと思います。

deepvision の ARA-1 processor

…gle Coral Edge TPUの6倍の低Latency、GPUに対して10倍の効率 Deep Vision Compiler : Caffes, TensorFlow, PyTorch, MXNet, ONNX をサポート Deep Vision SDK : Simulator, Quantizer, Profiler, Optimizer を用意 上記の図は、[この記](https://www.electronicdesign.com/technologies/emb…

TensorFlow の MLIR を利用した TAC (Target aware convertion for TFLite model)

…関数でモデルの変換ができるようです。 対応しているモデル cpu_hardware gpu_hardware nnpi_hardware です。 独自Hardware に対しては、SimpleHardwareクラスを継承してモデルを作ればできるようです。ここに簡単な説明があります。TagetHardwareクラス(SimpleHardwareクラスの親クラス)を使うことの説明もあります。 おわりに Google Edge TPU がモデルとして追加される日はいつでしょうかね。

新しい Edge TPUデバイスはいつ出るのか?

…めに Google Edge TPUがアナウンスされたのが、2018年の夏頃(このブログで最初に取り上げたのは、2018年8月9日。ブログの最初に、出遅れ感とあるのでもう少し前だったんでしょうね。 vengineer.hatenablog.com 販売は半年以上後の2019年3月 vengineer.hatenablog.com その後に、「Google Edge TPUが他を全滅させるが、。。。」というタイトルのブログを書いたのは、2019年3月12日 vengineer.…

Pixel 6 に搭載されるである SoC は、GoogleとSamsungとの共同開発の模様

…され、Google Edge TPUなども搭載されると。 Pixel Visual Core / Pixel Neural Core の復習 今までは、SoCではなく、ASICの中に、Pixel Video Core (Pixel2/3) や Pixel Nueral Core (Pixel 4) を搭載していたが、とうとう SoC の中に投入ですか。。。このブログでは、Pixel 4 に Edge TPU が入っていたことを2019年11月19日に書きました。vengine…

Apolloは、チョコじゃないよ、AIアクセラレータのアーキテクチャを探索してくれるよ。。。

…いと、Google Edge TPUよりはよくならないと。。。 Transfer learning between optimizations with different constraints Area Budget 6.8 mm^2 の学習結果を、Area Budget 4.8 mm^2 に転移学習してみたら、下図(論文からの引用)のように、全体的によくなった。特に、ダメだった Vizer が他の戦略(EvolutionaryとP3BO)以上によくなっている。 あれ、も…

Google Edge TPUのエコシステムをまとめてみた

…l)が販売している Edge TPU のエコシステムについてまとめたものです。このブログでも何度も取り上げた Google Edge TPU 。USB ドングルだけでなく、mini PCIe, M.2, M.2 dual, SOM, Moduleで提供されています。また、デバイスを搭載して、Coral Dev Board および Coral Dev Boad Mini もあります。 その Google Edge TPU を使う上でのソフトウエアの多くはオープンソースとして、g…

TVMにて、新しいアクセラレータに対応するための仕組み、BYOC (Bring Your Own Codegen) について調べてみました

…す。 GoogleのEdge TPUでは、TensorFlow Liteのモデルをコンパイラにて、CPUで実行、Edge TPUで実行するサブブラフに分割しますが、現時点では Edge TPU で実行できるのは1つのサブグラフだけで、CPU => Edge TPU => CPU のような感じで実行されます。なお、最初と最後の CPU の部分は必要がなければ実行されません。 TVMのBYOCでは、CPUおよび新しいアクセラレータで実行するサブグラフの数には制限が無いようです。つ…

ハードウェアを意識したNASからハードウェアの構成も一緒に決めるNASに!

…yを Google Edge TPU を使って測定している。 Edge-TPUに対するNASベースとなっている EfficientNetの日本語の解説はこちら。 qiita.com 論文は、こちら。「EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks」 Mingxing Tan, Quoc V. Le NASnet, MnasNet, EfficientNet、3つの論文には、Quo…

Google Edge TPUがたくさん載るPCIeカード

…めに、Google Edge TPU カードがいっぱい載る、PCIe カード(PCI Express® 3.0 x16) ASUS IoT: Industrial Motherboard, Intelligent Edge Computer, Single Board Computerこちらの写真も Full height, half length, PCIe Gen3 AI accelerator card supports up to 8 x Google Coral E…

AI Gateway = Raspberry Pi Module 4 + Google Edge TPU

…きに、Google Edge TPU 搭載するもの出てくるなーと思っていましたので、想定内ですが。。。 www.cnx-software.comModBerrry AI GATEWAY 9500-CM4Google Edge TPU とは、Raspberry Pi Module 4 の PCIe interfacce と繋がっていると。 しかしながら下の方で、PCIe modules for wireless support とあって、あれ、Raspberry Pi 4 は、…

Google Edge TPUには、Cortex A53x2が入っていた

…のは、Google Edge TPUのUSBドングル版の解析。 Edge TPUチップのシリコンからCortex A53x2、PCIe 3.0、32コアというところまで書いてありました。 Google Edge TPUも出てきて、32コア、Cortex-A53x2、PCIe 3.0あれ、あれ、あれ、これって、もしかして、Pixel Visual Coreと同じ構成じゃん。。。。https://t.co/biniTGZy4r — Vengineer@ (@Vengineer) …

Google Edge TPUのlibedgetpuのソースコードを調べてみた

…ね。 Google Edge TPUでTensorFlow Liteを使った時に何をやっているのかを妄想してみる from Mr. Vengineer www.slideshare.net このスライドの続編として、ソースコードの解析する必要があるかな?と思ったので、調べてみた。下記の2つのツイートのスレッドにて、ぶつぶつしました。 Google Coral Edge TPU の TensorFlow Lite のコードは、5か月前に公開されているので、ちょっと眺めています。…

Google Coral の新しいサイトと November 2020 Update

…tpu : The Edge TPU Runtime (libedgetpu) https://github.com/google-coral/libcoral : The Coral C++ library (libcoral) https://github.com/google-coral/pycoral : The Coral Python library (PyCoral) https://github.com/google-coral/test_data : Var…

くら寿司がGoogle Edge TPUをどうやって利用しているのか?

…ら寿司のCoral Edge TPU事例が出ました!!全国数百店舗で大規模に運用、お皿の画像認識部分でEdge TPUを使っています。僕も微力ながら記事化に協力させていただきました〜https://t.co/BITHt8tYkc pic.twitter.com/dlY94tpOx6 — Hayato Y (@hayatoy82) 2020年10月29日 こちらのツイート 5月23日)では、既に店舗での導入されていたっぽい。 くら寿司の席の注文用端末、いつの間にかiPadからラ…