Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

MXnet - NNVM - TVM




ちなみに、DMLCとは、Distributed (Deep) Machine Learning Community


NNVM Graphでのグラフ表現を最適化したものに対して、
TVM経由でLLVMOpenCL、Metal、CUDAへの変換ができます。

引用
http://tvmlang.org/images/release/end_to_end_stack.png
の左側にあるように、More hardware backends でサポートされていないハードウェアにも対応できるよ。

これって、TensorFlow XLAと同じだよね。

TensorFlow XLAでは、バックエンドは CPUでもGPUでも LLVM だけど、
TVMでは、LLVMは CPU と Javascript/WASM、CUDAは別途。また、OpenCLやMetalもある。


また、Remote Deployment and Execution というのもあって、
RPCにて、リモート上のTVMランタイムを呼び出すことができるんだって、これは TensorFlow XLA にはないね!

この TVM に関しても、ソースコードを調べたら、SlideShare にアップすると思っています。