Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

TVM v0.5正式リリース



 ・Fully featured 8-bit network support
    8bit quantizer
    Arbitrary bits quantization algorithm
    Intel cpu support

 ・NVidia GPU 8-bit kernel
    int8 gemm recipe
    int8 conv2d

  ・Autotvm integration
    Automated tuning and scheduling
    AutoTVM optimizations for mobile GPUs
    AutoTVM optimizations for CUDA
    AutoTVM optimizations for x86

 ・Initial release of the differentiable programming IR, Relay

早速、nttlabs のメンバーがTVN v0.5 リリース (TVMの新機能紹介)ということで。

この中では、上記のうち
 ・ニューラルネットワークを記述する新しい言語 (Relay) のサポート
 ・自動チューニング機能 (AutoTVM) のチューニング範囲拡張
は、TVM Conference レポート/TVM 概要と TVM Conference 内容の紹介にいろいろとあります。

今回は、
 ・量子化
 ・ヘテロジニアスruntime
についての解説です。

チョット前から、あたし的には、「ヘテロジニアスruntime」が気になっていました。。
CPU以外にAIアクセラレータを利用可能にする場合にどうすればいいのか?


そして、v0.6 へのRoadmap も公開されています。
この中であたし的にきになるのは、

 ・Ultra low-bit support
と
 ・Training

ですかね。。。