Vengineerの妄想

人生を妄想しています。

MicrosoftのProject Brainwave


いろいろ記事が出ているけど、
まずは、現場からのレポート。Microsoft Reseach Blog
Microsoft unveils Project Brainwave for real-time AI
プロジェクトリーダーのDoug Burger, Distinguished Engineer, Microsoftさんから。


この3つを読めばいいんじゃないかな。

SlideShareにもアップされていた。

NextPlatformの記事はどれ読んでも内容がしっかりしているからね。
その他の記事はだいたいプレスや発表の内容のコピーだから。。。

NextPlatformの2番目の記事。特にこの図(引用です)
https://cdn-ak.f.st-hatena.com/images/fotolife/V/Vengineer/20190803/20190803150816.jpg

DNN Processing Unitsでの分類。Soft DPU(FPGA)とHard DPU。
いろんなの載っているが、ESEとCerebrasって、確認したら、あーって。

この中でまだ詳細が分かっていないのは、Groqかな。XilinxからCOOを迎えたようだが、いつ頃発表するのかな。

IntelMicrosoftが居るので、でっかいFPGAを開発できるのよね。

2014年11月28日の日記、FPGAアクセラレータにも書きましたが、
その当時のAlteraの最大なるユーザーはマイクロソフトですからね。。。


本題に戻ります。

https://cdn-ak.f.st-hatena.com/images/fotolife/V/Vengineer/20190803/20190803150811.jpg

の図(引用)、左側に、Caffe Model, CNTK Model, TensorFlow ModelからFrontends経由で、Portable IRにする。
その後に、グラフを分割し、最適化して、各テクノロジに対応したフローになる。

TensorFlow XLANNVM - TVM と同じですね。

Graph Splitterで大きなグラフを複数に分割して、複数のCPUやFPGAマッピングするのかな。。。
右側にFPGA0とFPGA1になっているので、分割されるんでしょうね。
ということは、TensorFlow XLA や NNVM-TVM よりも進んでいるわ。。。

Stratix 10だけでなく、Stratix VやArria 10でも動くのね。

推論用なので、バッチサイズは、1 のようです。