Qualcomm Cloud AI 100 - Vengineerの妄想(準備期間)

Qualcomm Cloud AI 100は、7nmに実装して、Snapdragon 845に対して、50倍以上の性能だと。。

TensorFlow、PyTorch、Glow、Keras、ONNXを含む多数のソフトウェアをサポートすると。

また、「CPUやGPU、FPGAなどによる既存の推論処理と比較して、1Wあたり10倍以上の処理性能を発揮する」と。
あれ、FPGAって、GPUに対して、結構、消費電力当たりの処理能力がかなりいいと主張しているんだけどね。

Advancing the AI futureによると、CPUに対して、GPU/FPGAの方が10倍よくて、それより10倍いいとありますね。。。

学習に関しては、ほぼ NVIDIAのGPU で決まりのようになっていますが、
推論、特にCloud側は、FacebookとMicrosoftなんかで利用されるんですよね。

特に、2019/3/19のブログ、Facebookの新しいインフラの推論エンジンとして利用されれば、結構需要がありそうですね。