TensorFlow LiteとAndroid Neural Network API

Vengineerの戯言 : Twitter、Slideshare
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

昨日はサーバーサイドのエコシステムである Keras => Estimator => TPU Estimator について書きましたが、
今日はモバイルサイドでのエコシステム

TensorFlow Lite

Introduction to TensorFlow Lite、github

によると、TensorFlowモデルを TensorFlow Lite Converter 経由で TensorFLow Lite Model File (.tflite)に変換して、
Android App と iOS App で利用可能に。。

TensorFlow Lite Converterは、TensorFlowのGraphDef (.pb) と CheckPoint (.ckpt) から
各パラメータを固定化したGraphDef である FreezeGraphDef を生成するツールも提供しています。

Java APIとC++ APIがあり、Androidでは Java API と C++ APIを、iOS では C++ API が利用できると。

また、モデル（カーネル）を実行するための Interpreter（インタープリタ）があるみたい。

Androidでは、ハードウェアアクセラレーションができる Neural Networks APIも利用できるって。
というか、Neural Networks APIが TensorFlow Lite と Caffe2のモデルをサポートしているみたい。

　Neural Netowrk APIでは、

　　・Vendor NN DSP driver(Digital Signal Processor)
　　・Vendor NN driver(Specialized Processor)
　　・Vendor NN GPU driver(GPU)

をサポート

Google Pixel2 に搭載されているPixel Visual Coreも利用できるしね。

参考ブログ：
Pixel Visual Coreについては、Computer Architecture 6th Editionの7章"Domain-Specific Architecture" を読む (7.7章 Pixel Visual Core, パーソナルモバイル画像処理ユニット)に詳しく解説があります。
TensorFlow Liteのliteな話：TensorFLow Lite用のモデル変換等
TensorFlow Liteを使ってモバイル向けに最適化された機械学習モデルを動かしてみる
Introduction to TensorFlow Lite
TensorFlow Lite