Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

Glow Summit と Glow Hanaba Acceralator Backend


3月20日Facebookで「Glow Summit」が行われたようだが、どこにもなかったのですが、
Glow開発チームのNadav Rotem(@nadavrot)さんのこのツイートからちょっとだけ。


これによると、
  Habana and Facebook announced the first experimental back end for the Glow compiler and runtime 
  to target Habana’s existing Goya inference accelerator.

そのBackendのソースコードもGlowのgithubで公開しました。

cmake を 実行するときに、"-DGLOW_WITH_HABANA=ON" を付けることで、Habanaに対応できるようです。

Habana Backend のコードは、このディレクトリこのディレクトリこれこれです。

ただし、HanabaのSDKである SynapseAIをサポートするSDK を持っていないとコンパイルできません。

具体的には、Habana GoyaDatasheet

下図のDatasheetの2頁目にある図を引用しています。
イメージ 1


この図の中のSynapseAI API以下の部分が必要になります。
ONNX, TensorFlow, MXNet, Caffe2, PyTorch, CTNK をサポートしているように書いてありますが、
Glowと同じような感じで対応しているのでしょうかね?

ちなみに、デバイスドライバについては、2月25日のブログ、Habana Goyaでも書きましたが、
Linux 5.1に取り込まれるように頑張っているようです。

P.S
Glowのロゴが変わったようです。
イメージ 2