Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

Riptide は、TVMで2値をサポート

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

OctoMLのブログ:Riptide: Fast, Full Binarization in TVM

medium.com

上記にある図(URLを組み込んで引用します)を見ると、

一般的はものは、すべてを二値化するのではなく、部分的に二値化するんですね。

https://miro.medium.com/max/1400/1*_FXFVfAS3ct5Q3Q0ZuZRFw.png

図を見ると、処理が重いConv(最初のレイヤー以外)をQConvに変えていますね。

これに対して、Riptideでは、次の図(URLを組み込んで引用します)にあるように青のレイヤーも二値化するんですね。

https://miro.medium.com/max/1400/1*736AqS9v5ZNs8f3lAiTDVQ.png

 

Riptideのコードは、github にあります。論文は、これ ですね。

github.com

この技術、OctoMLの「The Octomizer」に入るんでしょうね。。