@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった
先週ちょっと調べものをしていたら見つけたこの論文というか White Paper
著者は、Raghuraman Krishnamoorthi さんで、Qualcomm => Google => Facebook のようです。この論文は、Google の時に書いたものです。
We benchmark latencies of quantized networks on CPUs and DSPs and observe a speedup of 2x-3x for quantized implementations compared to floating point on CPUs. Speedups of up to 10x are observed on specialized processors with fixed point SIMD capabilities, like the Qualcomm QDSPs with HVX.
と書いてありますね。Qualcomm では、Hexagon でやっていたんでしょうね。
この論文では、2つの量子化についての記述があります。
- Post Training Quantization
- Quantization Aware Training
これについては、以下のように TensorFlow Lite の Model optimization について説明があります。
