もう一つのIntel FPGAでのディープラーニング

Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

IntelのCan FPGAs Beat GPUs in Accelerating Next-Generation Deep Neural Networks?という論文

FPGAなんだけど、Altera(トロントチーム)と違う人達なのか？

Trends in Deep Neural Networks

  Trend  1: 
    Deeper networks lead to more accuracy,  
    but these large models are becoming intractable to process. 

  Trend  2:  
    Improving efficiency by using more compact data types. 

  Trend  3:  
    Improving efficiency by taking advantage of sparsity.

3章の

CUSTOMIZABLE HARDWARE ARCHITECTURE TEMPLATE FOR DNNS

の図4のPEって、昨日のブログのPEに似ていますがね。

二値化では認識率は良くならないが、 Ternary ResNet なら良くなったと。。。

6章の

DISCUSSION: OTHER DNN TRENDS

では、

　・Mathematical Transforms (e.g., Winograd)
　・Compression

も。。。

Winograd は、昨日のブログにも書きましたが。。。