…がら、Google Edge TPUでは使えません。何故なら、Google Edge TPUは8ビットのみサポートしているので。 16ビット量子化をサポートしているのは、GPU。そう、GPUです。 TensorFlow Liteでは、GPU DeleGate をサポートしたので、その GPU DeleGate で動作するようです。 TensorFlow Lite の GPU DeleGate については、このブログでは下記のように4回書いています。 2019年1月21日のブロ…

…ッサやGoogle Edge TPUの開発に使われたChiselをCNNプロセッサ開発に使った事例を簡単に紹介します。 また、ちょっと先だけど、9月28日の第二回 Deep Learning Acceleration 勉強会（DLAccel #2）で聞けそう。 BlueOilのソースコードを調べてみたら、 RunTCAという関数があって、TCAConv2dの中で、下記のように、ホストメモリ => DMA => Conv2D TCA =>=>DMA => ホストメモリをやってい…

…on Google Edge TPU. These networks are closely related to Efficientnets. 引用 Efficientnet-EdgeTPU were developed using the AutoML MNAS framework by augmenting the neural network search space with building blocks tuned to execute efficiently …

…から始まった 昨日のEdge TPU CompilerがUpdateの続き、 edgetpu.hを覗いてみたら、 NewEdgeTpuContextとOpenDeviceのオプションに、"Usb.AlwaysDfu"と"Usb.MaxBulkInQueueLength"が追加されていました。 // Same as above, but the created context is associated with the given device // type, path a…

…ログ、Google Edge TPUの offline compilerから約2か月 July 2019 Updates ・New on-device transfer learning APIs ・post-training quant support ・new TF Lite delegate この中で、new TF Lite delegate が気になったので。。。 TensorFlow Liteの例題、load_image.pyの interpreter = Inte…

…gle Coral Edge TPU running @TensorFlow on a Chromebook, specifically the Pixelbook. Grab the source code and instructions on my website (link: https://kmyers.me/blog/chromeos/introducing-the-chromeos-crostini-machine-learning-setup-script/)…

…son Nano, Edge TPU & TF Lite micro 特集の続編として、 について、発表します。時間は20分ぐらいあればいいという気がします。 発表資料は、Slideshareにアップしてあります。 今回は、Edge TPUで処理する Op にどんなデータを渡しているかを妄想してみました。 P.S 取り扱いショップの菱洋エレクトロさんが参加者の人向けに Jetson Nanoプレゼント・ジャンケンしてくれるそうです なので、勝ち取って、手元のJetson Na…

…dware => [Edge TPU + Pi ZERO] PA!GOはGoogleのTensorFlowプラットフォームと、Coral USB Acceleratorを利用しています。 USB AcceleratorにはEdge TPUが搭載され、USB 2.0インターフェースでRaspberry Pi Zero dev boardに接続されています。 Panasonicのカメラやプロジェクターなどの画像技術とGoogleの技術を融合することで、 新しい時代のAIベースのデ…

…モデルをCoral Edge TPUで試すを読んで、 ハードウェア Lowest latency Best trade-off Higher accuracy Google Pixel 1 22 msec / 557 KB 65 msec / 3.1MB 105 msec / 5.6 MB Edge TPU 2 msec / 858 KB 3 msec / 3.7MB 5 msec / 6.8 MB Google Pixel 1のスペックは、 Qualcomm Snapdra…

… では、RasPi、edge TPU、Movidiusなどのベンチマークをしています。 で、今回は、Arduino上に TensorFlow Lite for Microcontroller を移植したと。 Adafruit TensorFlow Lite Micro Speech Library ハードウェアは、Adafruit PyGamer for MakeCode Arcade, CircuitPython or Arduino、39.95ドル。安。 Microchi…

…ebian 9上で、edge TPUが動いたようです。 (ツイートでは、Ubuntu 16.04LTS とありますが、@ikwzm 氏のものは Debian です。似たようなもんですが。 そして、edge TPU は、ARM64 + Debianで動くと書いてあるので、ここ 引用 Any Linux computer with a USB port ・Debian 6.0 or higher, or any derivative thereof (such as Ubuntu…

… お呼ばれしたので、Edge TPUについて、ちょっとお話したいと思います。 LT5分枠だと、短くて焦っちゃうので10分から20分ぐらいでお話しようかな？と思っています。 TFUG ハード部：Jetson Nano, Edge TPU & TF Lite micro 特集のLT5分枠でお話した 「Google Edge TPUでTensorFlow Liteを使った時に何をやっているのかを妄想してみる」 の内容をベースに、Custom Op がどのように呼ばれているのかを調べ…

Versalengineerの戯言 : Twitter SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった うろちょろしていたら、見つけた。 edge-tpu-servers Coral Edge DevBoard 上で、Detect Serverを起動し、zerorpcを使って、クライアントと繋げていると。 このコードは、smart-zoneminderなるプロジェクトの一部のようです。 このプロジェクト、良ーく見たら、なんか、凄…

…から、Google Edge TPUで、TensorFlow Liteを使う例のソースコードを覗いてみます。 edgetpu/cpp/examples/utils.ccのBuildEdgeTpuInterpreter std::unique_ptr<tflite::Interpreter> BuildEdgeTpuInterpreter( const tflite::FlatBufferModel& model, edgetpu::EdgeTpuContext* edgetp…

…son Nano, Edge TPU & TF Lite micro 特集に一番乗りしました。 といってもエントリーですが。。。 9:30pm: 「（TF Lite for Microの話）」Google proppyさん とありますので、Microについて。このブログでも何度も取り上げていますよ。 2019年4月26日、TensorFlow For Microcontrollers 2019年1月2４日、Eta Cimpute, Inc の ECM3531 で Tensor…

…it on the Edge TPU だって。。。 github このプロジェクト、AlphaGo ZeroをEdge TPUで動かしたよ。。。という観点ではなく、 TensorFlow => Edge TPU のフローのための事例と思って、ドキュメントとソースコードを深く読みこめば、 すごーく役に立つと思うんだけど、どうかな？ 学習では、TPU使って、そんでもって、量子化もしているしね。。。 python3 train.py \ --trunk_layers=19 \ --…

….MX8M and Edge TPU equipped Coral SOM Thinker Edge Rには、4GBのLPDDR4だけでなく、NPU用に2GBのLPDDR3が載っているようです。 また、Mini PCIeが付いているので、ここのEdge TPUのPCIeカードさせば、、。。。ARM64のDebian系ならOKだよね。 RK3399Proは、Jetson Nanoより、つよい？より、3GBが249ドル、6GBが299ドルなので、このASUS Tinker Edg…

…た 昨日のASUSのEdge TPUが付いている3つの製品の最後のPCIeボードが刺さっているAsus Mini PCでも出てきました、Edge PCIe ボード 64.99ドル(ボリュームディスカウントあり)で、Coming Soonとアナウンスされていますね。 ここ(中国語のサイト)によると、 この PCIeカードの写真も載っていて、Coralの写真には無かった全体をカバーするようになっています。 USB版のEdge TPUは複数台接続できるので、このPCIeボードも複数…

…gle Coral Edge TPU & NXP i.MX 8M Processor ASUS Tinker Edge T、ASUS CR1S-CM-A SRC、Asus PN60T mini PC with Coral Edge TPU mini PCIe card 引用します。 ・ASUS Tinker Edge T SoC – NXP i.MX 8M quad-core Arm Cortex-A53 processor with Arm Cortex-M4F real-…

…った Google Edge TPUのModel Compilerに制約がなくなったから1か月半、Google Edge TPUが利用できるようになってずーと死角だと思っていた、Model Compilerがやっとonlineではなく、offline になったよ。 May 2019 Updates、An offline compiler, new project tutorials, and MDT updates. Model Compiler が online だと、いろ…

…った Google Edge TPU の Model Compiler はクラウドベースです。今まで、限定的なモデルしか利用できませんでしたが、 Updates from Coral: A new compiler and much more によると、その制約が無くなったようですね。ただし、下記の要件はあります。 ・Tensor parameters are quantized (8-bit fixed-point numbers). You must use quanti…

…で書きましょう！ そして、学習済みのパラメータをファイルに書き込み、そのパラメータとモデルを使って、TensorFlow Liteに変換して、 Edge TPUで実行しよう！ Google Edge TPU を使うためのメモ 参考資料： Google ColabでTPUを使ってみる Google ColaboratoryのTPUを試してみる Google ColabでKerasからTPUを使う方法とGPUとの速度差 【Keras】GoogleColabで簡単にTPUを試す方法

…ログ、Google Edge TPUが他を全滅させるが、。。。を書いたが、 今週は、GTC 2019で発表されたJetson Nanoが99ドル(量産用モジュールは129ドル)と、Google Edge EvaBoardの149ドルの2/3という価格で発表された。 etson Nano Brings AI Computing to Everyone いやー、もうダメだわ。99ドルで、Tegra X1で搭載した開発ボードが手に入るんですよ。 (Arm Cortex-A57x4搭…

…じっくり見てみた。 Edge TPU が USB 3.0 ではなく、PCIe に接続されています。 これによると、i.MX 8MはPCIe 2.0 を 2コントローラ持っているようです。 Edge TPUのPCIe 版もあるようなのは、EvaBoardがPCIe接続だったからですね。 PMICでPOWER制御されていいます。。 ・Uses PCIe and I2C/GPIO to interface with the iMX8M SOC とも書かれています。 もう一つのPCI…

…プしたGoogle Edge TPU販売開始 (2019.03.10：DevBoardも販売されました、日本には配送できないようです。Wifi/BLEあたりの技適関連かしら？) Google Edge TPUのUSB版は、約75ドル。IntelのIntel Neural Compute Stick 2は、99ドル。 値段的には20ドル安いですよね。 おまけに、Edge TPU FAQには、性能について書いてあり、 Desktop CPU + USB Accelerator (…

…3日もGoogle Edge TPUが販売される情報を得て、こんなツイートを流しました。 Edge TPU EvaBoardは149.99ドル、USBドングルは74.99ドルと他のEdge用AIチップの息の根を止める価格リで販売を開始しました。現在は、MOUSERにてUSBドングルは購入できるようです。 CoralのGoogle Edge TPUのドキュメント 関連ブログ：Say “Hello” to Google Coral Get started with the USB…

…が搭載されたもの。 Edge TPU Developer Board Bitmain joins Linaro 96Boards Steering Committee, announces Sophon BM1880 Edge Development Board 下記の写真は、96Boards AI Sophon Edge Developer Board Features Bitmain BM1880 ASIC SoCからの引用です。 仕様としては、 ・Sophon BM18…

…low Lite ・Edge TPU で TensorFlow 「ARMv8a/64ビット で TensorFlow Lite」に関しては、 ・Ultra96上で TensorFlow Lite を動かして、 ・FPGA部にMLアクセラレータを載せる ・そのFPGA部をアクセラレータとして、TensorFlow Liteのカスタムレイヤーとして使えるようにする というのが、今週末のUltra96勉強会、開催しますのやることとしています。 Edge TPU に関しては、10月に…

…、Google が Edge TPU を出してきましたね。 TensorFlowのエコシステムの一要素として、追加されましたね。 このスペックを見てみると、 引用します Edge Google Cloud (Devices/nodes, Gateways, Servers) Tasks ML inference ML training and inference Software, services Cloud IoT Edge, Android Things Cloud M…

…pberry Pi with up to 4 Raspberry Pi Zeros for less than US$50 with the Cluster HAT このツイートのように、 「DeepLearningアクセラレータ付きラズパイクラスター」 Raspberry PiをRaspberry Pi 4に置き換えて、 Google Edge TPU x2 + Movidius x2 + RasPi Zero x4 にすれば、強烈だと思うのだが、消費電力は大丈夫だろうか？