TensorFlow r1.5正式リリース (TensorFlow Lite dev preview)

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

米国時間で2018/1/26にTensorFlow r1.5が正式リリースされました。

  ・Eager execution
       preview version is now available.

　・TensorFlow Lite
　　dev preview is now available.

　・CUDA 9 and cuDNN 7 support.

　・Accelerated Linear Algebra (XLA):
　　Add complex64 support to XLA compiler.
　　bfloat support is now added to XLA infrastructure.
　　Make ClusterSpec propagation work with XLA devices.
　　Use a determinisitic executor to generate XLA graph.

CUDA9とcuDNN7サポートということは、正式にVoltaが利用できるのか。
でもね。Volta持っていませんよ。
NVIDIA TESLA V100 CUDA 9 のご紹介

Eager executionにて、ChainerやPyTorchのように、define-by-run ができるのね。

　・define-and-run <=> Declarative  : theano, Caffe, TensorFlow

　・define-by-run  <=> Imperative   : Chainer, PyTorch, TensorFlow Eager

そして、TensorFlow Liteにて、AndroidやiOSへのパスが確立されましたね。

Androidの場合は、8.1で導入された Neural Network API に対応しています。

ということで、

TensorFlow Lite => Android Neural Netowrk API のソースコードを解析しました

色々加えて、101頁にもなりました。

のように、TensorFlowで学習したモデルとパラメータをTensorFlow Lite Mode File に変換。

Android Appにて、TensorFlow Lite Model Fileを読み込み、
Interpreter経由で Android Neural Network APIを呼び出します。
Android Neural Network APIでは、デフォルトではCPUで実行されますが、
Google Pixel2に搭載されているASIC内の Pixel Visual Coreなどのアクセラレータを使うこともできます。

TensorFLow Lite API => こちら
Androidデモアプリ
TensorFlow Liteモデル
TensorFlow Compatibility Guide
How to use custom operators