@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった
はじめに
昨年のGTC 2020からリモート開催になり、Jensen キッチンが舞台となった GTC 2021 の Keynote を眺めて見ました。
とりあえず、ツイートしたもの
NVIDIA、FPGAではなくネットワークに色々と入れ込んできた
— Vengineer＠ (@Vengineer) 2021年4月12日
BlueField、今回の #GTC21 Bluefield3を発表。16個のARMコアを搭載。Bluefield4ではAIエンジンを搭載すると。
IntelやAMDと違う道を突き進むNVIDIA。そんな感じで、今年の #GTC21 のキーノートのビデオを眺めていますよ https://t.co/LEqvoYuoIK
GPU が 8,000 GB/sec, CPU が 500 GB/sec, PCIE Gen4 が 16 GB/sec に対して、
NVLink が 500 GB/sec, Mem-to-GPU を 2,000 GB/sec を目指すと。となると、NVLink の 500 GB/sec => Mem-to-GPU の 2,000 GB/sec で4倍か。
あれ、各GRACEにLPDDR5xが繋がるので、4つのGRACEなので、NVLink 500 * 4 = 2,000 GB/sec じゃん。NVLink だよー。。。
NVIDIAがデータセンター向けのCPU、GRACE
— Vengineer＠ (@Vengineer) 2021年4月13日
とあるが、データセンター用じゃなくて、GPUの性能を引き出せない他社のCPUは使わなくても、自分のところでできるからなんだろうね。。。
Appleに引き続き、NVIDIAも半導体は内製化する。
NVIDIA、x86だと、PCIe がボトルネックになるということで、GRACEを投入。
— Vengineer＠ (@Vengineer) 2021年4月13日
各GPUがGRACEに接続し、GRACEは両サイドのGRACEに接続すると。このGRACE間の接続は、GPUと同じでNVLinkじゃないですかね。。。
Bluefield4およびGRACEにて、GPUで培った技術をCPU側に投入する作戦が進行中。
乞うご期待
あれ、GPUとGRACEの接続は、PCIe Gen4である必要がなので、全部、NVLink でいいというお話。
— Vengineer＠ (@Vengineer) 2021年4月13日
ちょっと前は、IBMのPOWERと繋げていたが、GRACEはNVIDIA自身が作るので、GPU側に合わせられるということなのかな。。。。
下記の記事に、Grace + GPU のボードの写真が載っていますね。
NVIDIAがサーバーなどでGPUとGPUを接続するインターコネクトとして導入しているNVLinkの次世代版が搭載されており、キャッシュコヒーレントに対応したNVLinkを利用した場合、CPUとGPU間の帯域幅は900GB/秒、キャッシュコヒーレントを使わない場合には600GB/秒の帯域を実現する。
とあるので、NVLink を使うというのは、Bingo ですね。
おわりに
このツイートにも書きましたが、マルチコア、GPGPU、FPGAに関しては、IntelとAMDが全部やることになってしまいましたが、
マルチコア GPGPU FPGA
— Vengineer＠ (@Vengineer) 2021年4月9日
のブログ。
6年経って、結局、x86-64のIntelとAMDが3つを手に入れた。
NVIDIAはARMを手に入れたがFPGAではなく、ネットワークを強化。
さあ、次のステップは何だろうか。https://t.co/8dytTi2528
NVIDIAは、GPGPU、Network、マルチコア、を1つのチップ。。。NVIDIAのATLAN、に入れちゃうみたいですね。
NVIDIAのATLANは、
— Vengineer＠ (@Vengineer) 2021年4月13日
- CPU (ARM)
- GPU
- Network (BLUEFILED)
と、全部の乗せになるので。
ある意味、NVIDIAの集大成か。。。 https://t.co/zz5RoAaemQ
とはいえ、出てくるのは 2022、2023、2024 なので、その間に何があるかはわかりません。
参考ブログ：Orin は 2018のGTCに発表があり、出てくるのが2022とか、超長いのね。ATLANも2024なので、3年後。
vengineer.hatenablog.com
