Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

IWOCL ’20:SnapgragonのGPUで学習する

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

オンライン開催された IWOCL '20 から気になったものをピックアップ。

今回は、Training Machine Learning Network on Adreno Mobile GPUs Using OpenCL

 

Snapdragon の GPU Adreno は基本的には推論用として使われますが、このポスターでは学習用に使ってみたと。発表者は、Qualcommの中の人達。

Datasetは、MNIST で、学習用データは60000枚、テスト用データは10000枚。

モデルは、LeNet。SGD Solverにて、Base learning rate: 1e-3、Momentum: 0.9

Data Loadingでは、Shuffing を true にして、Batch size = 32 。

バイスは、Snapdragon 865で、GPUは Adreno A650

学習とテスト用アプリは、Android UI無しで、194 秒 (3分14秒)

テストにおける精度は、1 epoch で 94.7 %、24 epoch で 98.4 %

 

ということで、このぐらいの学習は、

モバイル用のハイエンド(現在)のGPUではできる。

 

今後は、

  • いろいろなカーネルをサポートする
  • Optimizerのサポート
  • 精度混在の学習

モバイル用モデルぐらいは、学習できるようになりますかね。。。