DRAMを搭載していないAIアクセラレータのその後

はじめに

Twitterの古いTweetを見つけた。自分の2019年11月16日

DRAMを搭載していないAIアクセラレータ
・Graphcore
・Cerebras Systems
・Groq

HBMを搭載しているAIアクセラレータ
・Google Cloud TPU
・Hanaba Gaudi
・Intel NNP-T https://t.co/MwjsIC7JUF

— Vengineerの妄想(準備期間) (@Vengineer) 2019年11月16日

DRAMを搭載していないAIアクセラレータ

2019年11月時点では、

DRAMを搭載していないAIアクセラレータ

• Graphcore
• Cerebras Systems
• Groq

こちらは、

• Graphcore : IPU MK1 (16nm) => IPU MK2 (7nm) => IPU BoW (IPU MK2の改善 : 7nm)
• Cerebras Systems : CS-1 (16nm) => CS-2 (7nm) => CS-3 (5nm)
• Groq : GroqChip1(旧TSP) (GF14)

で、Groqは変わっていない。。。これは凄い。

HBMを搭載しているAIアクセラレータ

• Google Cloud TPU
• Hanaba Gaudi
• Intel NNP-T

だった。Intel NNP-TはEOLで、Intel はHabanaを買収。その後も、Gaudi 2 => Gaudi 3 と継続、ある意味、成功？

おわりに

GraphcoreやCerebras Systemsは、3回もプロダクト開発しているのに、Groqのチップ開発は1回(現在は新しいチップを開発中とか)って、スゴイですよ。。。

Groq、LLM Inference 、超絶速い、と言われていますが、同じチップを使い続けている方でもすごいです。。。