ハードウェア Lowest latency Best trade-off Higher accuracy Google Pixel 1 22 msec / 557 KB 65 msec / 3.1MB 105 msec / 5.6 MB Edge TPU 2 msec / 858 KB 3 msec / 3.7MB 5 msec / 6.8 MB
Google Pixel 1のスペックは、
Qualcomm Snapdragon 821 (MSM8996 Pro) CPU 2.15 GHz + 1.6 GHz クアッドコア 64-bit ARMv8-A Kryo Cores GPU Adreno 530 メインメモリ 4 GB LPDDR4 RAMなので、Jetson NanoのCPUコア(1.4x GHz)より速い。。。
Edge TPUは、CPUより10倍以上処理速度が速いんだよね。。。
7月9日のブログ、TensorFlow Lite でGPU利用に書きましたが、On-Device Neural Net Inference with Mobile GPUsによると、Google PixelでのCPUとGPUの推論時のLatencyは、
MobileNet Posenet Deeplab v3 MobileSSD Face Contous CPU 114 msec 149 msec 174 msec 206 msec 16.7 msec GPU 31.5 msec 61.3 msec 65 msec 52.4 msec 3.4 msec
なので、画像識別とすると、MobileNetになるので、3倍速い。。。
となると、上の例では、7~8 msec ぐらいになり、Edge TPUの方が4倍速いことになるね。
となると、上の例では、7~8 msec ぐらいになり、Edge TPUの方が4倍速いことになるね。
Pixel 1 => 3 にすると、GPUでの処理時間は、CPUより4倍ぐらい速くなるので、5.5 msec になり、3倍弱、Edge TPUが速い。
Qualcommなら、Hexagon HVXがあるじゃんということですが、
先日のGoogleのイベントでは、こんなツイートが流れてきました。このツイートに添付されていた写真では、Pixel 2でのMobileNet V1での推論時間
先日のGoogleのイベントでは、こんなツイートが流れてきました。このツイートに添付されていた写真では、Pixel 2でのMobileNet V1での推論時間
・CPU 83 msec ・GPU 15 msec ・DSP 6 msec ・Edge TPU 2 msecとありますね。論文では、CPUは 75.7 msec、GPUは 18 msec になっていましたが。。。
となると、次の「Google Pixel」には、
のどれだろうか?
TensorFlow Liteを使う前提だと、DSPはまだサポートしていないので、やっぱり、Edge TPU搭載かな。。。