タイトルだけみたら、BinarizationをサポートしたHardwareをOpenVINO対応したのかな?と思っていたら、
Intel Core-i5 で Xnorの Binarization を使って、OpenVINO対応したって。
Intel Core-i5 で Xnorの Binarization を使って、OpenVINO対応したって。
結果は、
・Full 32FP on TensorFlow ・Full 32FP on OpenVINO ・Xor binarization on OpenVINOのベンチマークで、精度は2~3%落ちたけど、パフォーマンスは3倍以上になったと。。
32FP から Binarization にしたのは、Convolution。。。
ちょっと調べてみたら、Release Notes for Intel® Distribution of OpenVINO™ toolkit 2019にちょっと書いてあった。
[NEW] resnet50-binary-0001. This is a classical classification network for 1000 classes trained on ImageNet. The difference is that most convolutional layers were replaced by binary once that can be implemented as XNOR+POPCOUN operations. Only input, final and shortcut layers were kept as FP32, all the rest convolutional layers are replaced by BinaryConvolution layers.
とあるので、この部分なのかな?