Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

Google Pixel に Edge TPUが搭載されるのは、いつか?



  ハードウェア       Lowest latency      Best trade-off      Higher accuracy

  Google Pixel 1       22 msec / 557 KB     65 msec / 3.1MB     105 msec / 5.6 MB

  Edge TPU              2 msec / 858 KB      3 msec / 3.7MB       5 msec / 6.8 MB

Google Pixel 1のスペックは、
   Qualcomm Snapdragon 821 (MSM8996 Pro)
   CPU	2.15 GHz + 1.6 GHz クアッドコア 64-bit ARMv8-A Kryo Cores
   GPU	Adreno 530
  メインメモリ	4 GB LPDDR4 RAM
なので、Jetson NanoのCPUコア(1.4x GHz)より速い。。。

Edge TPUは、CPUより10倍以上処理速度が速いんだよね。。。

7月9日のブログ、TensorFlow Lite でGPU利用に書きましたが、On-Device Neural Net Inference with Mobile GPUsによると、Google PixelでのCPUとGPUの推論時のLatencyは、
          MobileNet     Posenet       Deeplab v3    MobileSSD     Face Contous

    CPU    114   msec    149   msec    174   msec    206   msec     16.7 msec
    GPU     31.5 msec     61.3 msec     65   msec     52.4 msec      3.4 msec

なので、画像識別とすると、MobileNetになるので、3倍速い。。。
となると、上の例では、7~8 msec ぐらいになり、Edge TPUの方が4倍速いことになるね。

Pixel 1 => 3 にすると、GPUでの処理時間は、CPUより4倍ぐらい速くなるので、5.5 msec になり、3倍弱、Edge TPUが速い。

Qualcommなら、Hexagon HVXがあるじゃんということですが、
先日のGoogleのイベントでは、こんなツイートが流れてきました。このツイートに添付されていた写真では、Pixel 2でのMobileNet V1での推論時間
 ・CPU     83 msec
 ・GPU     15 msec
 ・DSP        6 msec
 ・Edge TPU   2 msec
とありますね。論文では、CPUは 75.7 msec、GPUは 18 msec になっていましたが。。。

Pixel 3は、Qualcomm Snapdragon 845 なので、Snapdragon 855にすれば、DSPが2倍になるので、もうちょっと速くなりそう。

となると、次の「Google Pixel」には、

Snapdragon 855 + Edge TPU or Snapgragon 855 のみ or Snapdragon 845 +Edge TPU


のどれだろうか?

TensorFlow Liteを使う前提だと、DSPはまだサポートしていないので、やっぱり、Edge TPU搭載かな。。。