Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

PyTorch + TVM


PyTorch + XLA に続き、TVMとも繋いでいる。。。と。

2018年10月9日、PyTorchがTPUで動く



図によると、PyTorch IR から Lowerにて、TVMに。

PyBind11にて、C++コードをPythonと繋いでいます (torch_tvm/register.cpp)。

TVMCompilerのrunメソッドが呼ばれるみたい。

PyTorchのグラフを TVM/Relayのグラフに変換して、
 ・build_f(func, "llvm", "llvm -mcpu=core-avx2");
で、TVM => LLVM にて、AVX2にて最適化。。。。あー、決まったコードが出来るか。。。

P.S
なんか、自分のブログに教えられた、2018年8月15日、PyTorch/MXNet と TVM と繋ぐには?