Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

NVIDIA VoltaのTensorCoreは何故?4x4なの?


出ましたね。Volta








KaiGaiの俺メモ : GTC2017 - Tesla V100 と CUDA9.0
このブログ、いいです!

Voltaでスゴく気になったのが、TensorCoreが4x4だということ。
CNNでは、3x3、5x5、7x7なのに、なんで4x4。
Twitterでは3次元は4x4だから?とありましたが、
いろいろ調べたら、Winogardが4x4で処理するからでは?と
松岡先生のツイートの写真にあったXavier DLAのハードウェアの処理フローにも
 Sparse Weight Decompession + Native Winograd Input Transform
とWinogradとか有るしね。真実は公式に発表されるまでわからんが。。。。

その他、Volta関連。