はじめに
Twitterに流れてきたこのツイート
Qualcommの推論用チップ、Cloud AI100がMetaのシステム内で使われていないようです。
This is why the AI100 has disappeared from $QCOM's presentations.
— Ravi (@Ravi_711) 2022年3月31日
Great hardware doesn't matter much without the software to match.$NVDA $FB https://t.co/yuUTnaUshN pic.twitter.com/xgbTAy8YNL
Qualcomm Cloud AI とは?
- Card Performance (Raw TOPS): Dual M.2 (edge): 70 TOPS@15W TDP, Dual M.2: 200 TOPS@ 25W TDP, PCIe: 400 TOPS@ 75W TDP, PCIe: 350 TOPs @ 75W
- Card Types: Dual M.2 (edge), Dual M.2, PCIe (HHHL)
- On Card DRAM: Up to 32GB w/ 4x64 LPDDR4x @ 2.1GHz
- PCIe: 8 lane Gen3/4 (PCIe), 4 lane Gen3/4 (Dual M.2)
Facebook (Meta) の Glow
Cloud AIは、GlowのBackendとして使われる予定だった。
Glowのrepo を見てみると、Qualcomm AI100は公開されていないんですよね。Intel NNP-I はまだ使われているようです。。
おわりに
Qualcomm AI100、どうなっているんでしょうかね。