Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

ARM GPU MaliでAndroid Neural Networks APIサポート



Android 8.1で導入されたNeural Networks APIをARMのGPUであるMaliに実装。

ARM Cortex-Aシリーズ用のソフトウェアはARMとGoogleで開発した?コードがありますが、
この記事では、ARM GPUのMali。。。

新規開発ではなく、ARM Compute Library => OpenCL => Maliのパス。
ARM Compute Library内にある
引用
What's more, these operators are released as open source and available as part of the Compute Library.
とあるので、Compute Libraryの一部としてリリースされるようです。

また、
引用
Arm already provides support for 32-bit floating point and this support is improved with our NNAPI release to speed up neural network computation by three times. We're also working to support 8-bit integer operations, which will provide around four times more performance than fp32 when running on the Mali GPU already deployed in most mobile devices.
とあります。

fp32の実装は終わっていて、INT8も開発中だと。