…ablog.com Graphcore IPU M-2000 Graphcore のチップもDRAMを抱えていなくて、SRAMだけのシステムですが、上記の 2nd Gen System の構成と非常に似ているのが、IPU-M2000です。 vengineer.hatenablog.com なんで、GroqのLPUは超絶速くLLM推論ができて盛り上がっているのに、Graphcoreは身売りの話が出ているのか？ それは、 最初からGroq は推論一択でシステムを作っているから G…

…artup である Graphcore => ほぼ終了状態 Cerebras Systems SambaNova Systems Groq Tenstorrent ですが、Xの投稿を見る限り、 Groq が一番盛り上がっています。これ、何でかな？と思っていました。 Xに投稿した下記のもの、 The Nextplatformの下記の記事を読んで思ったことSambaNovaはAI Cloud学習はNVIDIAに勝てないので諦めてAI Cloud推論にPivotしたhttps://…

…スタートアップは？ GraphcoreがMicrosoftのAzureに採用されなくなり、ヤバくなったように、大口顧客に導入してもらわないと、大量に購入してもらえません。 ハードウェア(もの)は大量に使ってもらえないと、売り上げも上がらないし利益を出ないので、Cloud Serviceの会社がAI Chipを開発するとそれに競合するスタートアップのチップを自社のServiceとして利用することはなくなります。 (MicrosoftがCerebras Systemsを利用したサ…

…ました。 3rd Gen System では、Samsung 4nm のチップをベースに開発するようです。ボードの構成までは公開していません。 おわりに 2nd Gen System は、Graphcore の IPU-M2000 と非常ににています。IPU-M2000 では、Xilinx Ultrascale+ MPSoC を FPGA + CPU としていましたが、基本的には同じ感じだと思います。。。 Samsung 4nm のチップは、SC23で正式発表になるようです。

はじめに 下記の記事によると、 sifted.eu 2022年の売上は、270万ドル (昨年度の46%減、270/0.46 = 587万ドル?) Losses also rose 11% to $204.6M (204.6/1.11 = $184.3M) 過去を振り返る 下記の記事によると、 www.electronicsweekly.com 2021年の売上は、$5M、損失は、$183.5M 2021年末の cash and cash equivalents は、$327M…

…(2021.04) Graphcore $710M (2020.12) Cerebras $450M (2020.11) Groq $367M (2021.04) Tenstorrent $334M (2023.08) あたし的には、今からチップを作っても、お得なことはあまりなさそうです。。。 追記)、2023.10.12 MicrosoftのAthenaチップのことを言っているのかな？ texal.jp 関連ブログ vengineer.hatenablog.com veng…

…(2021.04) Graphcore $710M (2020.12) Cerebras $450M (2020.11) Groq $367M (2021.04) Tenstorrent $334M (2023.08) 7nm のプロダクト開発に $200M - $300M かかると考えると、SambaNova Systems の SN10/SN30 (7nm) を2回開発しても、$500M - $600M ぐらいはありそうなので、5nm を開発したのだと思います。 Grap…

…Grendel、Ascalonなどを開発してきたんだと思います。 おわりに SambaNova $1132M (2021.04) Graphcore $710M (2020.12) Cerebras $450M (2020.11) Groq $367M (2021.04) Tenstorrent $234M (2021.05) => $334M (2023.08) のように、ここ2年間、追加資金調達が無かったですが、Tenstorrentの $100M でどうなるでしょうか？

…nmで最初のチップ(Graphcore、Cerebras)を開発していきます。その後、チップが出来上がり、システムとして組み上げ、量産し、販売するまでに200-300億円ぐらい必要になることがわかりました。 TSMC 7nmを使って、NVIDIAのA100を2020年に出します。その後、Graphcore、Cerebras、SambaNova がTSMC 7nmのチップを出します。 同じようにシステムとして、組み上げ、量産し、販売するまでに200-300億円が必要になります。…

… Systems, Graphcore, Cerebras Ssytems は、TSMC 7nmで半導体を開発していて、次は 5nm/4nm ではなく、3nm に移行するか？という点を考えました。 ( GroqとTenstorrentは、TSMCではなく、Global Foundries の 12nm/14nm) この時点ではまだChatGPTが出ていなかったです。 AIバブルが生成AIバブルへ ChatGPTが出て、期待以上の成果が出ているということで、世界中が生成AIにフ…

はじめに Graphcore IPU-POD4 CLASSIC が6時間無料で使えるようです。 いづれ消えちゃうので画像で残しておきます(説明のために引用します)。通常は、1時間2.7ドルなので、16.2ドル分お得ということですね。 GRAPHCORE + Paperspace ここにあります。 www.graphcore.ai お値段はこんな感じ、説明のために引用します。IPU-POD16 CLASSIC になると、4倍以上の19.08ドル。新しい方のBOW POD16は2…

…人を設立しました。 GraphcoreからTenstorrent に移った中野さん Lenovo Japan 社長 => Tenstorrent CCO(Chief Customer Officer) の David Bennett -san ascii.jp Inference 用 Quasar 上記の記事では、Inference用の Quasar なるものが載っています。 Low Power, Low Cost ML Chiplet 4nm、250mm2 650 8b T…

…oogle TPU Graphcore IPU NVIDIA GPU x86 CPU なんで、Arm CPUs だけ、s が付いているんでしょうか。。。。 Youtube & スライド ここに、OpenXLA に関するビデオがあります。 www.youtube.com スライドも見つけました。 www.linkedin.com Tensorflowとの関係 tensorflow/tensorflow/compiler/xla が xla/xla になった感じですね。 おわりに…

はじめに Graphcore IPU M2000 のブロック図が公開されていたので、記録のためにブログに残します IPU M2000 BMC User Guide なるところに下記のようなブロック図がありましたので、説明のために引用します。 IPU M2000には、4個の IPU が搭載されています。2個ペアになっていて、その2個の間は PCIe Gen4 x 8 を6組使って接続しています。 残りの2個は M2000の背面の QSFP Connector に接続されています…

… Chip の動向 Graphcoreのlayoffsがあり、来年(2023年)はかなり怪しくなりそうです。何しろ、欧米は景気後退になりそうですから。 vengineer.hatenablog.com vengineer.hatenablog.com お仕事 お仕事でも、ここ数年やっていたものが公式に発表になりました。あー、よかった。 6月1日の下記のブログがかなり盛り上がりした。 vengineer.hatenablog.com vengineer.hatenablog.c…

…んだろうか。。。。 Graphcore をみてみる AI Cloud用学習チップを開発販売しているStart upのGraphcoreをみてみます。Graphcore は下記のように資金を集めています。 Series A : 2016.10 : $30M Series B : 2017.7 : $30M Series C : 2017.11 : $50M Series C : 2018.11 : $200M Series D : 2020.2 : $150M Series E…

はじめに Graphcoreさん、C600なるプロダクトをリリース。中国対応？ C600 MK2 IPUのPCIe Board版。MK1 IPUの時のPCIe版は、2個のMK1を搭載していたのですが、C600では1個のMK2 IPUのみのようです。 また、PCIe Gen4 x 8 です。IPU-Links (32 lanes)は、上部から出ています。 おわりに www.theregister.com

はじめに Graphcoreが2022年9月にlayoffをしたという話を見つけた時に、Analog AI Chip の Mythic も layoffをしたというを見つけました。 下記のツイートでは、50％のlayoffにて、150人から75人に減ったようです。このツイートは、7月 Just in: Mythic AI - a Series C AI analog chip startup - has laid off about 50% of its staff yest…

…l Nervana Graphcore Knuedge Wave Computing Groq Microsoft BrainWave AWS EC2 F1 Baidu XPU これらがどうなっているのかを振り返ってみます。 会社が無くなっているとこ Intel Nervana (EOL) Knuedge (無い) Wave Computing (IP屋さんになってしまった) プロダクトが継続されていない？ Microsoft BrainWave 生き残っているところ Gra…

…+ DRAM) - Graphcore : $710M (2020.12)、MK1 (16nm)、MK2 (7nm) + IPU Gateway SoC、BoW IPU (MK2ベース) - Cerebras : $450M (2020.11)、CS-1 (16nm)、CS-2 (7nm) - Tenstorrent : $234M (2021.05)、Wormhole (GF 12nm?) + GDDR6、Blackhole (6nm) - Groq : $367M (20…

…(2021.04) Graphcore $710M (2020.12) Cerebras $450M (2020.11) Groq $367M (2021.04) Tenstorrent $234M (2021.05) Intel Habana $2B (Intel買収2019.12) 7nm を超えると、Logic/SRAM の density はそれほど増えない 下記のツイートにて。GraphcoreのSimon -san のプレゼン資料を見るとわかりますが、7nm (2…

…ータを取っています。GraphcoreのIPUが7nm(823 mm2)で900MBのSRAMを抱えているので、960MBは実現できるという想定のようです。両サイドの 1 die になるので、960MB x 2 = 1920MB となる計算です。ざっくり、L3 Cacheが2GBというとんでもない値です。 L3 Cache die を接続することで、HBMが6個から10個 あるいは 14個に増やすことができるようです。1 die の もともとの HBM x 3 に対して、2個…

…memory cache er memory plane CPU victim cache Home node owns coherency transaction table (CTT) and directory 2.1GHz、Vnom=0.75 95W 107 mm2 (4nm) おわりに 今年出る Black Hole が本命のようですが、どうなんでしょうかね。。。Graphcore や Cerebras system と比べると、ちょっと遅れている気がしますが。。。

はじめに Graphcore が第3世代のBowなるものを発表しました。 www.graphcore.ai SemiAnalysis の記事：Graphcore Announces World’s First 3D Wafer On Wafer Hybrid Bond Processor semianalysis.substack.com Bow IPU 下記のページに説明があります。 www.graphcore.ai 下図は上記のサイトからの説明のために引用します。 既存の…

…co.jp www.graphcore.ai sambanova.ai vengineer.hatenablog.com Tenstorrent も クラウドサービスの準備を始めた Tenstorrentもクラウドサービスを始めたようです。これで、資金調達トップ5のクラウド用AIチップベンチャーがクラウドサービスを始めたわけです。 @tenstorrent Cloud launched this month so @jimkxa and the team took a tri…

…yX/SwarmX Graphcore : なぜ? HBMではなく、DDR4なのか？ Simple Machine ??? 毎週日曜日の11:00-12:00に半導体チップの雑談会来週9/12(日)は下記のGoogle Meetにて行いますhttps://t.co/5xxaHMg5ct9/12(日)は、Hotchips 33で発表があったCerebras SystemsのMemoryXとSwarmXについて、お話したいと思います。大きなモデルをどうするか？その解です— Ven…

…思うのですが、その後、どうなるのだろうか？ AI用アクセラレータで、2世代までを作ったのは、 Graphcore : GC2/MK1 (TSMC 16nm)、GC200/MK1 (TSMC 7nm) Cerebras Systems : CS-1 (TSMC 16nm)、CS-2 (TSMC 7nm) そして、 Halaba Labs の Gaudi (TSMC 16nm) と開発中の Gaudi2 (TSMC 7nm) しかないんですよ。 なので、とっても気になっています。

はじめに Graphcoreは、Cloudサービスを提供しています。基本的には、16個のチップを搭載した IPU-POD16 と 64個のチップを搭載した IPU-POD64 によるものです。 IPU-POD128/IPU-256POD 今回は、IPU-POD64を2個接続した IPU-POD128 と 4個接続した IPU-POD256 をアナウンスしました。 www.graphcore.ai 性能 RESNET50 v1.5のTensorFlow Traiingに対しては…

…いかかりますかね。 Graphcore Cloud 実は、Cirrasclae では、Graphcore Cloud のサービスもやっているんですよね。 説明のために、サイトの画像を引用します。GraphcoreのイメージのURLが壊れていますね。 お値段は、 IPU-POD 16 : 5,000ドル(1週間)、16,000ドル(1か月)、118,750ドル(1年)、212,500ドル(3年) IPU-POD 64 : 20,000ドル(1週間)、64,000ドル(1か月)、…

…tems Groq Graphcore AMD Intel は、Chip ではなく、最低でもRack Systemを提供する、AI System なるものを提供しています。 おわりに 2021年、クラウド用AI学習チップは、クラウド用AI学習システムになりました。 この後、数年の内に、上記のシステムのどれが生き残るかはわかりませんが、いづれ、3-4社になるんじゃないのかな？と思っています。 この中では、再来年(2023年)に出てくる NVIDIA の GRACEです。来年出て…