Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

AlphaICsの推論用ASIC(Gloun) は、PCIe Gen3 x4 + LPDDR4

はじめに

このブログでも下記のように 1回(+1回)取り上げている AlphaICs 。

vengineer.hatenablog.com

こちらでは、AlphaICs は、HBM2を搭載する感じだったのが、Edgeの Inference用の模様(AlphEdge) になった

vengineer.hatenablog.com

どうやら、先月(10月)の AI expo で CBC と言う会社が出店したようです。

日本語のページ

AlphaICs にアクセスすると、日本語のページになります。CBCと言う会社が日本での代理店っぽいので日本語化されているようです。

Real AI Processor (RAP TM) というプロセッサベースにしたもののようです。

RAP は、0.5 TOPS から 32 TOPS の構成ができ、これを並べることで、32 TOPS, 64 TOPS, 128 TOPS も可能だと。

チップは、Gloun

チップは、Gloun というもので、PCIe Gen3 x4 + LPDDR4 です。

いづれなくなってしまうので、下図を記録のために引用します。

f:id:Vengineer:20211128100151p:plain

Framework 対応は、Caffe2/TensorFlow/Pytorh で、一旦、ONNXに変換して取り込むようです。

  • AlphRT API Library
  • NN Optimizer
  • Graph Compiler
  • Gluon Runtime

などのソフトウェアがあるようです。

評価ボード

評価用のボードは、2種類

  • PCIe Gen3 x4 Board
  • i.MX の PCIe に接続するタイプ

説明のために下図を引用します。

f:id:Vengineer:20211128100447p:plain

性能

Gluon は、8 TOP のようです。将来的には、64 TOPS までスケールするようです。

semiwiki.com

おわりに

AlphaICs

米国とインドの他に、日本に代理店を作ったということは日本ではGluonの需要があるとみたんですかね。

PCIe Gen3 x4 + LPDDR4 となると、かなりお値段思想ですが。。。