Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

Cambriconの新しい Cloud用推論エンジンMLU270


このツイートで教えてもらいました。

Cambriconの新しい Cloud用推論エンジン、MLU270。

CambriconのPCIe Cardということで、MLU100なるデバイスが搭載したCloud用推論エンジンの速いやつみたい。


引用
 MLU270 seems like a direct competitor of Nvidia’s Tesla T4. MLU270 supports INT16, INT8 and INT4, whose peak performance are 64 Tops, 128 Tops and 256 Tops. Compared with MLU270, Tesla T4 supports FP16, INT8 and INT4, whose peak performance are 65 Tops, 130 Tops and 260 Tops. As for power consumption, they are around 75w.

とあるように、昨日(6月29日)に紹介した、Tuningって、INT4やINT1が使えるのね。。。のTesla T4の対応みたい。

MLU270は、INT16、INT8、INT4に対応しているって。。。

中国が開発した深層学習用プロセッサ「寒武紀」から生まれた Cambricon 、今後、どうなるのだろうか?

NVIDIAのT4を入手しないで、CambriconのMLU270を使うのって、大陸内だけなのだろうか?