Edge TPU

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

かなり出遅れ感がありますが、Google が Edge TPU を出してきましたね。

TensorFlowのエコシステムの一要素として、追加されましたね。

このスペックを見てみると、

引用します
                                Edge                                 Google Cloud
                                (Devices/nodes, Gateways, Servers)
    Tasks	                ML inference	                     ML training and inference
    Software, services	        Cloud IoT Edge, Android Things	     Cloud ML Engine, Kubernetes Engine,
                                                                     Compute Engine, Cloud IoT Core
    ML frameworks               TensorFlow Lite, NN API	             TensorFlow, scikit-learn,
                                                                     XGBoost, Keras
    Hardware accelerators       Edge TPU, GPU, CPU                   Cloud TPU, GPU, and CPU

Debianもサポートする模様。

ML frameworksは、TensorFlow Lite, Androird NN API、
これについては、
今日は、「TensorFlow Lite & Android 8.1 NN API ソースコード解析」独演会でお話ししました。

TensorFlow => TensorFlow Liteのフローは、既にあるので、サクッと、Deployできそうですね。
TenorFlow Liteへの Deploy って、サクッとできるのかしら？

Hardware acceleratorsで、GPUとCPUだけでなく、TPUが入るということですね。

     Type                       Inference Accelerator
     Performance Example        Edge TPU enables users to concurrently execute 
                                multiple state-of-the-art AI models per frame, 
                                on a high-resolution video, at 30 frames per second, 
                                in a power-efficient manner.
     Numerics                   Int8, Int16
     IO Interface               PCIe, USB

精度は、Int8とInt16。推論だと、これでいいんですね。

I/Oインターフェースは、PCIe と USB ですね。

USBは、ちっちゃなデバイスとしてEdge TPUにして、Intel (Movidius) Myriadのように使うのですね。
MovidiusのCTOだったdavid moloneyさん、が愚痴っています。