出ましたね。Volta
THE NEXTPLATFORM Nvidia’s Tesla Volta GPU Is The Beast Of The Datacenter
Voltaでスゴく気になったのが、TensorCoreが4x4だということ。
CNNでは、3x3、5x5、7x7なのに、なんで4x4。
Twitterでは3次元は4x4だから?とありましたが、
いろいろ調べたら、Winogardが4x4で処理するからでは?と
松岡先生のツイートの写真にあったXavier DLAのハードウェアの処理フローにも
CNNでは、3x3、5x5、7x7なのに、なんで4x4。
Twitterでは3次元は4x4だから?とありましたが、
いろいろ調べたら、Winogardが4x4で処理するからでは?と
松岡先生のツイートの写真にあったXavier DLAのハードウェアの処理フローにも
Sparse Weight Decompession + Native Winograd Input TransformとWinogradとか有るしね。真実は公式に発表されるまでわからんが。。。。
その他、Volta関連。