TensorFlow Lite にて、Google XNNPACK delegate が登場

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった 

GPU(OpenGL ES, OpenCL)、NNAPI、Qualcomm HexagonのDelegateに続き、

GoogleのXNNPACKのdelegateが登場しました。

TensorFlow Liteに、GoogleのXNNPACK delegate登場。https://t.co/h6fJN3qOqA

XNNPACKについては、こちらhttps://t.co/TcZr0oAGyx

— Vengineer＠アマゾンプライムで映画三昧 (@Vengineer) 2020年2月5日

Google XNNPACK は、こちら。

github.com

 Google XNNPACKは、

ARM64 on Android and Linux
ARMv7 (with NEON) on Android and Linux
WebAssembly MVP
WebAssembly SIMD (experimental)
x86 and x86-64 (up to AVX512) on Android, Linux, and macOS

 をサポートしているということで、ARM64とARMv7で速くなるのかな？

それから、WebAssembly でも使えるということは、ブラウザで TensorFlow Lite が使えるってことになるのかな？

いや、TensorFlow.jp があるので、いいのか？

オプションで使用できるのは、ここ にあるように、

typedef struct {
// Number of threads to use in the thread pool.
// 0 or negative value means no thread pool used.
int32_t num_threads;
} TfLiteXNNPackDelegateOptions;

 スレッド数だけの模様。