Tensor Comprehensions

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった
=

Announcing Tensor Comprehensions

Facebookが Tensor Comprehensions をアナウンスしました。

ドキュメント、論文、Slack

この Tensor Comprehensions では、下図(引用します)に、HalideIRを採用しているようです。

コード生成部は独自です。

CPUへはLLVM経由でコード生成していますが、
GPU(CUDA)へはLLVM(PTX)ではなく、CUDAのソースコードを生成し、
NVRTCライブラリを使ってソースコードをコンパイルしています。

また、ATen: A TENsor libraryも使うことができます。

TVMでもHalideIRを取り込んでいます。

Halideは画像処理をターゲットにしていますが、ディープラーニングにも利用が進んできましたね。

追記)、2018.03.01

For our initial system,
we focus on the generation of CUDA code
because NVIDIA GPUs dominate the hardware landscape for training deep neural networks.

とある。