Tensilica DNA 100 Processor IP

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

昨日は、Synopsysでしたが、今日は、Cadence

Tensilica DNA Processor Family for On-Device AI

Tensilica DNA Processor Family for On-Device AIとして、「Tensilica DNA 100 Processor IP」をリリース。

下記の図は、引用ですが、左側がパイプラインでの実装の部分と右側のTtightly Coupled Tensilica DSPで構成されるみたい。

DMA (圧縮・伸長) => バッファ(Coefficient RAM/Activation RAM/Tensor Fetch) => Scalable Sparse Compute Engine
=> Quantization => Output RAM => Pooling Vector Processing Unit

パイプライン部分とTensilica DSPは、ともに、AXIに接続している。

サポートする ソフトウェアは、

　　・Tensilica Neural Network Compiler for offline automated code generation

　　・Android Neural Networks API Support for dynamic automated network deployment

とあります。

前者は、オフラインのコンパイラで、後者は、Android NN APIs。。。となると、スマホに搭載してほしいと。。。。

下図も引用ですが、Caffe, TensorFlow, TensorFlow Liteからモデルを取り込んで、
Tensilica Neural Network Compilerにて、いろいろやって、IPで動作させるようですね。

8ビット or 16ビットの量子化やタイリング処理もするようですね。

Android NN APIsの図もあります(引用します)。
こちらは、Tensilica IP用のNeural Network Driverを提供するだけのようですね。
こちらは、Android NN APIで定義されているOpをTensilica DNA 100 Codeとして事前に持っていればいいのでね。