はじめに 下記の投稿にあるように、TURINGがLLM専用アクセラレータ(Hummingbird)について説明する会に参加しました。 TuringではLLM専用半導体アクセラレーター開発プロジェクト「Hummingbird」を立ち上げて、半導体ですぐれた業績を収めた方をリーダーに現…

はじめに NVIDIA Grace-Hopper Superchipの間は、NVLINK C2C にて接続されています。 vengineer.hatenablog.com vengineer.hatenablog.com vengineer.hatenablog.com 理論最大転送帯域は片側 450GB/s です。 実測は？ Google君に聞いたら、 NVIDIA GH200 Ben…